본문 바로가기

전체 글53

LAM과 EAI의 결합으로 진화하는 AI 에이전트(Agent) AI 에이전트는 사람을 대신해 특정 작업을 수행하는 시스템이다. 우리가 자주 사용하는 AI 스피커나 챗봇 같은 것들도 AI 에이전트로, 우리가 말/글로 명령하면 그 명령을 이해하고 답변을 하거나 일을 대신 처리해 주는 역할을 한다.2024.10.19 - [IT] - AI Agent는 무엇이고 이점과 위험은 무엇인가?이 AI 에이전트가 더 똑똑해지려면 LAM과 EAI라는 개념이 중요한데, 이에 대해서 정리해본다.LAM (Large Action Model)AI가 언어(대화 명령/글)를 이해하고, 그 요청에 맞는 행동을 할 수 있도록 만드는 모델임. 그 예로는 AI 스피커에게 "내일 아침 7시에 깨워줘"라고 말하면, AI가 정시에 알람을 맞춰주는 것.EAI (Embodied Artificial Intellig.. 2024. 10. 29.
실행에 집중하라, 'EXECUTION' 현재 기획/전략을 수립하고 보고하는 일을 하고 있지만, 사실 대다수는 단순히 문서로 끝난다. 상위 임원들 선에서는 좋은 반응을 얻고 ASAP 시행하라는 말을 들었음에도 말이다. 개인적으로 볼 때 이유는 크게 3가지이다.CEO 직속 조직이 아니다 보니, 실행 조직은 전략 조직에서 하는 말을 해야 한다는 부담(강제력?)이 없음실행 조직은 본인들의 사업계획/KPI가 매해 세팅되어 있고, 직속 임원의 별도 수명 과제들을 쳐내기도 버거움요소요소에 있는, '좋은 게 좋은 건데, 왜 이렇게 번거롭게 만들어? 그냥 편히 가자' 주의의 사람들어떤 것 하나도 Top 임원도 아닌 내가 마음대로 교정할 수 없다. 그래서 종종 '이런 것을 작성해서 뭐 하나?' 싶은 생각도 있기는 하다. 나를 포함한 우리 조직이 무슨 정의의 사.. 2024. 10. 28.
ChatGPT가 잘 알아듣는 Prompt(프롬프트) 작성법과 템플릿 예시 IT Technical 전문가 소통 또는 외부 강연을 들어보면 Prompt에 대해서 문법 성격으로(Markdown 까지 쓰면서) 작성법을 강요하는 경우가 있다. 소위 Prompt Engineering(프롬프트 엔지니어링) 이라고 하고, 전문 학원/강의까지 있더라. 물론 그렇게 하면 더 잘 나올 수도 있겠지. 그런데 모든 사람이 그렇게 구조적으로 질문을 하기도 어렵거니와, 지금 LLM 기술은 어느 정도의 구성 내 질문이면 답변을 굉장히 잘 한다.  지극히 개인적 생각으로 유료 GPT를 1년 넘게 매일 사용하며 느낀 바로는, 복잡한 Prompt를 안짜도 질문을 짜임새 있게만 하면 충분하다고 본다. 하기는 ChatGPT가 알려준 좋은 Prompt를 기반으로 정리한 것이다. 재미있는 것은, ChatGPT가 써준.. 2024. 10. 27.
Hallucination을 최소화하는 법, RAG(Retrieval Augmented Generation) Chat GPT로 인해 '23년부터 올해까지 다양한 AI챗봇 솔루션이 출시됐었다. 매우 많이 만나본 것은 아니지만, 어느 정도 이름이 알려진 기업부터 신생 스타트업까지 한 5~6개 기업을 만나봤었다. 기업은 다른데 그들의 솔루션을 도입하면 '쉽게/빠르게/비용 최소화를 하면서도 임직원/고객에게 최상의 경험을 줄 수 있다'는 주장은 동일했다. 몇 군데 기업의 솔루션으로 Quick-PoC를 해본 결과, 기대에 못 미치는 결과가 나왔다. 익히 알려진 Hallucination(환각)을 최소화해야 하는데, 생각보다 그 정도가 심했다. 그들이 말하는 원인에 대해서 마냥 틀렸다고 말하고 싶지는 않다. 이미 알고 있었거나 이해할 수 있는 내용들이 많았기 때문에. 다만 그렇다면 초도 미팅 때부터 그렇게 과대한 기대효과 제.. 2024. 10. 26.
다리오 아모데이가 바라본 'AI가 바꿔 갈 5대 영역'은? 다리오 아모데이가 CEO로 있는 엔트로픽은 오픈AI 출신 직원 7명이 나와서 만든 AI 기업으로, 챗GPT의 경쟁 서비스 ‘클로드(Claude)’로 유명한 기업임. 엔트로픽은 안전성 및 데이터 보호에 중점을 둔 AI 서비스를 만들며 경쟁력을 높이고 있으며, 아마존으로부터 40억 달러, 구글로부터 20억 달러를 투자를 받음. 이 다리오 아모데이가 개인 블로그를 통해 AI의 미래에 관한 자신의 견해/예측을 상세히 공개함. 요약하면 다리오 아모데이가 'AI의 위험'을 강조하는 이유는, AI가 지닌 무궁무진한 가능성을 실현하기 위해 해결해야 할 유일한 장애물이기 때문이라고 함. 또한 사람들이 비단 AI의 부정적 영향뿐만 아니라, 긍정적 영향도 과소평가하고 있다고 말함. 글에서 AI가 제대로 발전했을 때 가져올 .. 2024. 10. 25.
도산 위기에서 벗어나게 해준 경영 전략, 'HOW TO 맥킨지 문제해결의 기술' 우리 주변에는 크고 작은, 많은 컨설팅 전문 기업들이 있다. 그중에서 맥킨지(McKinsey & Company)라는 기업은 꽤 유명한 곳 중 하나이다. 어쩌면 국내보다는 Global에서 더 네임드일 듯하다. 간혹 PwC/KPMG/EY/Deloitte, 소위 Big 4 회계컨설팅 펌을 더 익숙하게 보는 사람들도 있었다. 내가 다닌/다니는 기업들에서 이 컨설팅 업체+컨설턴트(Consultant)라는 직군에 대해서는 부정적 이미지가 더 많았었다. 내가 들었던(일부는 내가 직접 겪은) 불만들을 핵심만 요약하면 다음과 같다.제안 발표 때는 간이고 쓸개고 다 줄 것처럼 하더니, 착수되고 나면 주객이 전도된다.그럴싸한 타사 사례/템플릿만 들고 왔지, 회의를 해보면 실제 이 업태/도메인 전문가가 맞는지 모르겠다.우리 .. 2024. 10. 24.