Random Forest 와 Adaboost
정의Random Forest : 의사결정 트리(Decision Tree)에 배깅(Bagging)의 개념을 적용시킨 앙상블 기법 Adaboost : 부스팅(Boosting) 기법에서 과소적합한 약 분류기(Weak Classifier)에 높은 가중치로 업데이트 하는 앙상블 기법 키워드- DB(Decision tree, Bagging), 약강가(약 분류기, 강 분류기, 가중치)- 앙상블, 의사결정트리+배깅, 보팅, Bootstrap, 약분류기, 강분류기, 가중치 메커니즘Random Forest의사결정 트리 (Decision Tree) - 배깅(Bagging)에 사용된 핵심 분류/회귀 모델 부트스트래핑 (Bootstrapping) - 전체 원본 데이터 세트에서 중복을 허용하여 복원 추출이 가능한 데이터 샘플링 ..
2024. 9. 20.
연합학습(Federated Learning)
정의- 저장 데이터를 직접 공유하지 않는 다수의 로컬 기기와 하나의 중앙 서버가 협력하여 AI 모델을 학습하는 분산형 머신 러닝(Machine Learning) 키워드- 분산, 프라이버시 보호, 지역모델, 전역모델, 취합, 갱신, FedSGD, FedAVG, 차등정보보호, 동형암호, 다자간계산 메커니즘 기술요소① 전역(Global) 모델 분배(Broadcast) - 서버는 사전에 정의한 최적 참여자를 선정한 후 각 단말로 수행해 야 할 작업 관련 정보를 전달 ② 지역 모델 갱신(Local Update) - 단말에 저장된 개인 데이터를 사용하여 로컬 AI 모델을 생성 ③ 지역 모델 취합(Aggregate) - 서버와 접속 등 특정 조건 만족 시, 단말은 생성한 로컬 AI 모델 결과값(파라미터)을 압축・..
2024. 9. 20.
유사도(Similarity)
정의- 데이터 간의 유사도를 정의하여 그 유사도가 가까운 것부터 순선 대로 묶어 가는 방법- 유사도 측정을 통하여 군집을 형성함으로 물리적 거리가 가까운 항목들을 동일 집단으로 묶음으로 거리기반과 유사도 기반을 척도로 사용 - 거리 기반 척도 : 맨하튼 거리, 유클리드 거리, 마할라노 거리, 민코스프키거리, 해밍거리 등 - 유사도 기반 척도 : 자카드 계수, 코사인, 단순매칭계수, 피어슨상관관계계수 등 - 클러스터링 평가 지표로는 실루엣 계수(silhouette score)와 응집도(Inertia) 이용 키워드- 교집합/합집합, -1,0,1, 군집내, 군집외 메커니즘 기술요소자카드 유사도(Jaccard Similarity)코사인 유사도(Cosine Similarity)실루엣 계수(Silhouette Co..
2024. 9. 20.
