금융의 인공지능 활용과 신뢰성 제고 방안

초지능 초연결 초융합 시대에 인공지능(Artificial Intelligence; AI)은 빅데이터 처리와 혁신적 서비스 개발의 필수 핵심 기술입니다. 특히, 고품질 데이터가 풍부한 금융분야는 빅데이터 인공지능 활용의 잠재력이 매우 큰 분야로 신뢰받는 인공지능 활용 환경을 구축하기 위해 ｢AI 기반 신용평가모형 검증체계｣와 ｢금융분야 AI 보안 가이드라인｣을 마련하였습니다.

AI 기반 신용평가모형 검증체계

AI 기반 신용평가모형 검증체계는 AI 특성을 고려하여 신용정보회사가 데이터를 적절히 관리하는지, 신용평가모형에 사용되는 알고리즘과 변수를 합리적으로 선정하였는지 점검하고, 신용정보회사가 개발한 신용평가모형이 통계적으로 유의미한 데이터인지 확인을 합니다. 또한, 신용정보회사가 금융소비자에게 신용평가모형과 신용평가 결과에 대해 충분히 설명할 수 있는지 검증합니다. AI 기반 신용평가모형 검증체계 마련 신용평가는 금융소비자의 금융거래 조건 등에 영향을 미치며 금융회사의 리스크 관리에도 밀접한 관련이 있어 신용평가의 투명성과 공정성을 확보할 필요가 있습니다. 이에 CB사의 기존 전통적 신용평가모형에 대해서는 신용정보법에 따라 2020년부터 ｢개인신용평가체계 검증위원회*(신정원)｣에서 검증하고 있습니다. 최근 신용정보회사(Credit Bureau; CB) 등은 AI 방법론을 이용한 신용평가모형을 개발 활용하고 있습니다. AI 신용평가모형은 전통적인 신용평가모형에 비하여 더 다양하고 많은 데이터*를 평가항목으로 반영할 수 있어 비금융 비정형 데이터** 활용이 용이하며, 예측력 변별력이 우수하다는 장점이 있으나, 복잡한 알고리즘을 사용하기 때문에 평가결과에 대한 직관적인 해석과 설명이 다소 어렵다는 한계 등이 있으므로 AI 신용평가모형의 경우 신뢰성 확보와 소비자 보호를 위해 전통적인 신용평가와 같이 객관적인 검증체계를 마련할 필요성이 제기되었습니다. 이러한 측면에서 연구용역, 전문가 TF, ｢개인신용평가체계 검증위원회｣의 심도있는 논의를 거쳐 CB사에 대한 ｢AI 기반 신용평가모형 검증체계｣를 마련하였습니다. □ ｢AI 기반 신용평가모형 검증체계｣가 기존 전통적인 개인신용평가모형에 대한 검증체계와 차별화되는 주요내용은 다음과 같습니다. 먼저 신용평가에 활용하는 비금융 비정형 데이터에 대한 적절한 관리체계를 구축하였는지 점검합니다. 비금융 비정형 데이터를 신뢰성 높은 출처로부터 수집하고 데이터의 일관성 정확성* 등을 주기적으로 확인합니다. 두번째는 다양한 AI 알고리즘의 특징과 장단점을 고려하여 신용평가에 최적화된 모형을 선택했는지 모형 선정 과정을 점검합니다. CB사는 다양한 알고리즘 중에서 하나를 선택하거나 다양한 알고리즘 결과를 조합하여 모형을 개발하는 만큼, 알고리즘 선정 목적, 변수 선정 과정 등 모형 개발의 상세 과정을 확인합니다. 세번째는 금융소비자에게 신용평가모형 및 신용평가 결과 등을 충분히 설명할 수 있는지 확인합니다. CB사는 평가결과에 대한 설명의무*가 있는 만큼, 설명가능한 AI 기법의 적용 여부, 해당 기법을 통한 모형의 해석 가능성 등을 점검합니다. 네 번째는 AI 방법론의 특성을 반영하여 모형의 변별력 안정성 등통계적 유의성을 점검합니다. overfitting 가능성 점검, 학습 검증 테스트 데이터의 유사성확인 등 AI 모형에 특화된 성능 확인 방법을 마련했습니다. 개인신용평가체계 검증위원회는 AI 기반 신용평가모형 검증체계를 활용하여 연내 AI 신용평가모형을 활용하고 있는 개인사업자신용평가회사에 대한 검증을 수행할 예정입니다. 향후 개인신용평가회사 등의 AI 신용평가모형에 대해서도 검증을 실시할 계획입니다.

금융분야 AI 보안 가이드라인

금융분야 AI 보안 가이드라인은 AI 모델을 개발할 때 고려해야 할 보안사항을 개발단계별로 제시하고, AI 챗봇 서비스에 대한 보안성 체크리스트를 추가로 제공합니다. AI 서비스 활용 확대와 더불어 개인정보 유출, 학습 데이터 조작 등 다양한 보안위협이 발생할 우려가 증가하고 있습니다. 보안성을 충분히 확보하지 못하는 경우, AI서비스가 오작동하거나 악의적인 공격에 노출될 가능성이 있습니다. 특히, AI 개발과정에서 현장 실무자가 유의해야 할 구체적인 보안위협과 대응방안을 다루는 세부적인 안내서가 필요하다는 지적이 제기되었습니다. 이에 금융 AI 서비스 개발 실무자가 활용할 수 있는 개발단계별 세부 보안 안내서인 ｢금융분야 AI 보안 가이드라인｣을 마련하였습니다. 동 가이드라인은 AI 모델 개발단계별 보안 고려사항과 AI 챗봇 서비스에 대한 보안성 체크리스트를 제시하고 있습니다. AI 모델 개발단계별 주요 보안 고려사항은 다음과 같습니다. 첫 번째는 오염된 데이터를 학습하여 발생할 수 있는 보안 문제와 성능 저하 등을 방지하고, 데이터 관련 공격 장애 발생시 그 원인을 파악할 필요가 있습니다. 신뢰성 높은 출처로부터 학습 데이터를 수집하고, 데이터 출처 및 수집 시점 등을 파악할 수 있는 데이터 관리체계를 구축해야 합니다. 두 번째는 수집한 데이터를 학습에 적합한 형태로 가공하여 AI 모델의 품질과 보안성을 높일 필요가 있습니다. outlier를 확인 처리하고, 적대적 예제 생성 학습 등을 통하여 AI 모델에 대한 적대적 공격을 예방하여야 합니다. 세 번째는 잠재적 공격자가 AI 모델에 대한 적대적 공격 등을 쉽게 수행할 수 없도록 AI 모델을 구성할 필요가 있습니다. 잠재적 공격자가 AI 모델에 대한 정보를 쉽게 유추할 수 없도록 지나치게 단순한 설계를 지양하고, AI 모델을 세부 변형하는 보안기법 등을 적용하여야 합니다. 네 번째는 학습을 완료한 AI 모델이 잠재적 공격 또는 개인정보 유출 등으로부터 안전한지 보안성을 검증할 필요가 있습니다. AI 모델을 대상으로 선제적인 적대적 공격을 수행하여 AI 모델이 공격을 탐지 방어할 수 있는지 확인하여야 합니다. AI 모델의 입 출력 횟수를 제한하여 잠재적 공격자가 AI 모델에 대한 정보를 수집하기 어렵게 하여야 합니다. AI 모델을 통하여 개인정보가 출력되는 경우, 개인정보가 타인에게 노출되지 않도록 하여야 합니다. 금융분야 AI 보안 가이드라인은 금융보안 레그테크 포탈에 게시되어 있으며, 앞으로 새로 등장하는 보안위협 대응기법 등을 고려하여 지속적으로 개선 보완해나갈 계획입니다.