오블완23 인공지능 기술 위험 막는다‥'AI 안전연구소' 출범 과학기술정보통신부가 27일 판교 글로벌 R&D센터에서 'AI안전연구소' 개소식을 개최했다. 'AI의 기술적 한계, 인간의 기술 오용, AI 통제력 상실' 등으로 일어날 수 있는 위험에 전문적으로 대응하기 위해 설립했다고 한다. 김명주 AI 안전연구소장은, 히말라야/에베레스트 등반을 돕는 전문가인 '셰르파'의 역할에 연구소를 비유했다.'연구소는 규제 기관의 성격이 아니라 국내 AI 기업들이 글로벌 경쟁력을 확보하는 데 장애가 되는 위험 요소를 최소화하도록 지원하는 협력 기관 역할을 할 것' 흔히 특정 분야/프로젝트에서 길잡이 역할을 하는 전문가/조력자를 셰르파에 빗대기는 한다. 그런데 셰르파는 단점도 있기에 살짝 다른 생각도 든다. 전문가라는 미명 하에 본인이 알고 있는 경험/지식에 갇혀서 창의력을 깎.. 2024. 11. 27. 뇌로부터의 자유(Who's in Charge? Free Will and the Science of the Brain) 마이클 가자니가(Michael Gazzaniga)는 현대 신경과학의 선구자로 잘 알려져 있으며, 인간의 뇌와 마음에 대해 연구와 이해에 큰 기여를 해왔다. 그는 '뇌로부터의 자유(Who's in Charge? Free Will and the Science of the Brain)' 책에서 자유 의지와 인간의 책임에 대한 과학/철학적 논의를 야기했다. 사례로는 split-brain 연구를 통해 뇌의 양쪽 반구가 서로 다른 방식으로 작동하며, 인간의 의사결정이 어떻게 형성되는지를 이해하는 데 중요한 기여를 했다. 하기 1시간짜리 유튜브 영상을 보면 그 내용이 더 명확히 이해되는데, 특히 인간이 정말로 '자유 의지'를 가질 수 있는지에 대해 불안(?!)해진다. 가자니가는 불안해하거나 기분 나빠할 일이 아니.. 2024. 11. 26. 창조론을 부정한 찰스 다윈의 진화론, '종의 기원(On the Origin of Species)' 찰스 다윈(Charles Darwin)은 1859년에 출간한 '종의 기원(On the Origin of Species)' 책을 통해 생물학 역사 상 가장 중요한 혁명을 촉발했다. 이 책은 진화론의 근간을 이루는 자연 선택(natural selection) 이론을 제시하며, 지구상의 모든 생명체가 공통의 조상으로부터 발전해 왔다는 통찰력을 담고 있다. 1859년 당시 종교/사회/과학계에 그야말로 센세이션을 일으켰으며, 현재까지도 생물학/진화학에 큰 영향을 미치고 있다. 그리고 이 책은 어제 날짜, 즉 11월 24일에 출간됐었다. 다윈은 '종의 기원'을 집필 완료하는 데 약 20년이 걸렸다. 1830년대 후반 비글호 항해 이후 수많은 자료를 수집하며 이론을 체계적으로 정립했는데, 다윈이 이렇게 오랜 시간을 .. 2024. 11. 25. MS 사티아 나델라, '기술을 위한 기술을 넘어, 실제 성과로 전환하는 것이 중요' “기술을 위한 기술을 넘어 실제 성과로 전환하는 것이 중요합니다.” MS의 수장인 사티아 나델라 마이크로소프트가 연례 컨퍼런스인 ‘MS 이그나이트(Microsoft Ignite 2024)’에서 “AI 기술로 비즈니스 성장을 주도할 수 있다”며 이같이 말했다. ‘코파일럿(Copilot)’와 같은 MS의 AI 기술을 활용하면 ROI를 볼 수 있다는 취지였다. 이는 24시간 가동돼야 하는 콜센터에서, AI Agent로 수천 명의 상담원에 맞먹는 효익을 보는 것을 대표적 예시로 본다. 2024.10.19 - [IT] - AI Agent는 무엇이고 이점과 위험은 무엇인가? 이그나이트에서 MS는 5종의 AI Agent를 드러냈다. (Link) 이중 기업용 협업 메신저인 팀즈(MS Teams)에 적용될 예정인 ‘통역.. 2024. 11. 24. 마이클 센델, '정의란 무엇인가(Justice: What's the Right Thing to Do?)' 이 책에 대해서 두말할 필요가 있으려나? 저자인 마이클 샌델(Michael Sandel)은 '정의란 무엇인가(Justice: What's the Right Thing to Do?)' 책을 통해 윤리와 정의에 대한 통찰력을 제공했다. 하버드 대학교의 정치 철학 교수로서, 'Justice'라는 이름으로 사사한 수업은 전 세계적으로 온라인 청강되며 유명하다. 복잡한 철학적 개념들을 일상의 사례를 통해 설명하면서, 사람들이 스스로의 도덕적 가치관을 성찰할 수 있도록 하는 분이다. 참고로 2010년 경에 샌델이 경희대학교에 방문해서 이 책을 주제로 강연을 한 적이 있다. 당시 나도 운 좋게 기회가 되어 현장에 갔었고, 사인을 받으려 했으나 시간 상 코 앞에서 기회를 놓쳐버렸던 아쉬움이 있다. 지금 시대였다면 강.. 2024. 11. 23. o1-preview, 수능국어에서 97점으로 1등급 기록 드디어 AI의 추론능력이 수능 국어 영역 1등급을 받는 수준까지 올라섰다. 거대언어모델(LLM, Large Language Model)의 수능 국어 역량을 평가하는 ‘수능 국어 LLM 리더보드’에 따르면, Open AI의 Chat GPT o1-preview 모델이 2025년도 수능 국어 영역에서 원점수 97점으로 1등급 권에 도달했다. 올해 수능 국어 영역에서 단 1문제만 틀리고 모두 맞춘 것으로, 선택 과목은 ‘화법과 작문’으로, 해당 과목의 추정 등급 컷은 93~95점 수준이다. 복잡한 추론이 필요한 수능 국어에서 기존 AI는 3~9등급 사이 점수를 받으며 고전해 왔는데, 최근 AI의 추론 능력이 비약적으로 발전하면서 고득점 획득에 성공한 것이다. 챗GPT 기존 모델인 GPT-4o (2024년 5월 .. 2024. 11. 22. 이전 1 2 3 4 다음
