사전학습1 초거대 AI 정의- 심층 신경망으로 구현된 크기가 매우 큰 AI로 인공신경망의 파라미터(매개변수)가 무수히 많은 인공지능 모델 - 대용량의 연산이 가능한 컴퓨팅 인프라를 기반으로 대규모 용량의 데이터를 학습해 특정 용도에 한정하지 않고 종합적이고 자율적으로 사고, 학습, 판단, 행동하는 인간의 뇌 구조를 닮은AI(인공지능)키워드- 대규모 파라미터, 사전학습, 파인튜닝 메커니즘기술요소1980~1990 - 통계기반언어모델 - 최초의 언어모델 출현 2017 - 트랜스포머 알고리즘 - Attention 기반 트랜스포머 알고리즘의 출현 2018 - BERT 모델 - 트랜스포머의 인코더를 활용한 BERT 모델 출현 2018 - GPT 모델 - 트랜스포머의 디코더를 활용한 GPT 모델 출현 2020~2021 - GPT-3, La.. 2024. 9. 20. 이전 1 다음
