인공지능 기술 위험 막는다‥'AI 안전연구소' 출범

과학기술정보통신부가 27일 판교 글로벌 R&D센터에서 'AI안전연구소' 개소식을 개최했다.  'AI의 기술적 한계, 인간의 기술 오용, AI 통제력 상실' 등으로 일어날 수 있는 위험에 전문적으로 대응하기 위해 설립했다고 한다.

 

 

김명주 AI 안전연구소장은, 히말라야/에베레스트 등반을 돕는 전문가인 '셰르파'의 역할에 연구소를 비유했다.

'연구소는 규제 기관의 성격이 아니라 국내 AI 기업들이 글로벌 경쟁력을 확보하는 데 장애가 되는 위험 요소를 최소화하도록 지원하는 협력 기관 역할을 할 것'

 

흔히 특정 분야/프로젝트에서 길잡이 역할을 하는 전문가/조력자를 셰르파에 빗대기는 한다. 그런데 셰르파는 단점도 있기에 살짝 다른 생각도 든다. 전문가라는 미명 하에 본인이 알고 있는 경험/지식에 갇혀서 창의력을 깎아내거나, 전반적 균형을 잡아주지 못하고 한쪽에 치우치는 사람들도 많다. 그리고 전문가 조언(어쩌면 통제?!)에 의존하다 보면, 본연의 독자적인 능력을 키우지 못하게 될 수도 있다. 감 놔라 배 놔라 하는 셰르파들이 AI연구소에 자리 잡게 된다면, 일보 전진이 아니라 이보 후퇴를 만들 수도... 

 

AI 안전 연구소 개소 선언