ChatGPT(3, 3.5, 4Ο)

ChatGPT 3 or 3.5

정의

- GPT-4Ο를 기반으로 사람과 자연스럽게 대화하는 것처럼 상호작용을 구현, 대화에 최적화된 대화전
문 인공지능

 

키워드

- SFT모델, 보상모델, PPO, 생성적 AI, 트랜스포머, Attention Mechanisms, 파인튜닝, 프롬프
트 엔지니어링

 

메커니즘

 

기술요소

 RLHF

Reinforcement Learning with Human Feedback
- 강화 학습의 방법을 사용하여 사람의 피드백으로 언어 모델 을 직접 최적화 수행

 

PPO

Proximal Policy Optimization

- OpenAI에서 개발한 모델 없는 강화 학습 알고리즘

---

ChatGPT 4

정의

- OpenAI에서 출시한 현재 가장 창의적이며, 일반지식과 문제해결력을 갖춘 모델

- 기존 모델(ChatGPT, GPT-3.5)대비 인식 및 추론능력의 향상, 이미지를 입력으로 인식하는 멀티모달, 대화 메모리 향상 등의 기능을 탑재
- MS의 클라우드인 Azure 슈퍼컴퓨터에서 학습
- 추후, MS의 Azure에서 최적화된 AI 인프라 서비스로도 제공할 예정

키워드

- 멀티모달, 정확도 개선, 기억력 향상, 다국어 기능, 사용자 정의 기능

 

메커니즘

기술요소

멀티모달

- 텍스트만 인식하던 이전 모델과 달리 이미지, 오디오, 비디오 등 여러 양식(mode)에 반응
- 냉장고 안을 찍은 사진과 함께 “이 사진에서 보이는 재료들로 할 수 잇는 요리를 알려줘” 라고 명령하면 몇가지 요리 추천

정확도 개선
- 잘못되거나 해로운 답변을 내놓을 가능성을 대폭 축소
- 전제로부터 합리적 결론을 이끌어 내는 논증 능력도 향상됐으며 각종 시험에서의 성적도 이전 모델들 보다 크게 오르는 등 성능 개선

기억력 향상

- 6 만 4 천 단어 또는 50 페이지로 증가(챗 GPT 채팅 페이지 50 페이지까지 기억)

 

다국어 기능

- 한국어 포함 26 개 언어 프롬프트 입력
- 영어를 다른 언어로 번역하는 정확도 향상(한국어 기준 77% 수준 정확도)

 

사용자 정의 기능

- 사용자의 통제력 강화(시스템 메시지를 통해 사용자 정의 가능, 조종가능성(steeralbility) 향상

 

참고

Duolingo
- 언어 학습 플랫폼
- GPT-4 를 영어테스트 실행 프로그램에 활용 대화연습, 실수에 대한 상황별 피드백 제공

 

KhanAcademy
- 교육 플랫폼에서 GPT-4 를 활용한 가상 튜터 및 교사를 위한 교실도우미(Khanmigo) 구동 예정

 

BeMyEyes
- 맹인 저시력 커뮤니티를 위한 덴마크 기업으로, GPT-4 기반 인간 자원봉사자 수준의 컨텍스트 이해 플랫폼(Virtual Volunteer)개발

 

MorganStanley 

- 정치, 경제 운영방침 결정, 법률 제정, 예산심의 등

 

Stripe
- e 커머스 분야에서 소규모 및 대규모 비즈니스 결제 지원에 GPT-4 도입
- 정보의 자동 수집 및 요약을 바탕으로 서비스 품질 향상

 

Iceland GoV.
아이슬란드 정부는 자국의 언어(고대 노르웨이어와 유사)를 보존하기 위해 GPT-4 학습을
통한 정확한 아이슬란드어 번역 등에 활용