728x90
반응형
Generative AI
-
챗GPT와 생성형 AI 기술에 대한 이해 (Feat. ANI, AGI, ASI)공부하자 2023. 8. 18. 14:20
오픈AI, Microsoft, Google 등 절대 답변하면 안 되는 사항들에 대한 원칙을 만들어 그걸 답변하지 못하게끔 걸러내는 것을 '세이프티'라고 한다. (ex. 핵은 어떻게 만들어?) 그런데 이 세이프티를 깨뜨려 교묘한 질문을 던져 답변을 얻어내는 것을 '프람프트 인젝션'이라고 한다. 기술은 죄가 없다. 그 기술을 악용하는 사람이 문제다. AI 기술도 챗GPT도 유용하게 사용될 수 있지만 악용과 남용을 일으켜 사회적으로 많은 혼란이 발생할 수 있다. 그러다 보니 기술을 잘 이해하고, 혼란을 최소화할 수 있는 여러 가지 규제가 필요하다. 챗GPT처럼 글이 아닌 이미지, 사진을 만들어 주는 생성형 AI 서비스 미드저니. 창작은 사람만 할 수 있다는 관념은 사라졌다. 이제 창작은 기계가, 기술이 적용될..