최근 MIT의 연구는 인공지능(AI)이 스스로 도덕적 기준을 개발하고 있다는 주장을 과감히 반박하고 있다. 이러한 주장은 특히 암호화폐 애호가들과 기술에 익숙한 독자들에게 흥미로운 논의거리를 제공하고 있으며, 과연 AI 시스템이 인간과 유사한 ‘가치’를 갖게 될지에 대한 speculation이 제기되고 있다. 그러나 MIT의 새로운 연구는 AI 가치에 대한 이러한 극단적인 주장에 찬물을 끼얹으며, 훨씬 더 복잡한 현실을 제시하고 있다.
MIT 연구팀은 메타, 구글, 오픈AI와 같은 기술 대기업에서 개발한 여러 기계 학습 모델에 대한 철저한 조사를 수행했다. 그 결과, 현재 우리가 이해하고 있는 AI는 일관된 가치관을 지니고 있지 않다는 사실이 밝혀졌다. AI는 내재된 원칙을 갖고 있는 대신, 정교한 모방자 역할을 수행하며, 패턴을 모방하고 프롬프트에 반응할 수는 있지만, 실제 인간과 같이 안정적이고 진정한 관점을 보유하고 있지는 않다는 것이다.
연구의 핵심 포인트 중 하나는 이러한 기계 학습 모델들이 상당히 일관성이 없다는 점이다. 질문의 phrasing에 따라 동일한 AI가 문제에 대해 전혀 다른 입장을 취할 수 있어 고정된 가치 시스템이 없음을 보여준다. MIT의 연구 공동 저자인 스티븐 캐스퍼는 이 모델들이 본질적으로 ‘깊은 수준에서 모방자’라는 점을 강조했다. 이들은 방대한 데이터셋을 기반으로 반응을 생성하는 데 뛰어나지만, 인간과 같은 선호를 진정으로 내면화하거나 이해하지는 못한다는 것이 그의 주장이다.
이러한 연구 결과는 AI ALIGNMENT 문제를 더욱 복잡하게 만든다. AI가 안정적인 가치를 갖고 있지 않다면, 이를 바르게 안내하는 것이 훨씬 어려워질 수 있다. 따라서 AI 시스템을 이러한 해석에 기반하여 예측 가능하고 바람직하게 행동하도록 조정하는 문제는 예상보다 더 어려운 도전이 될 것이다.
MIT의 연구는 특히 오늘날 AI 주도 사회로의 이행이 진행되고 있는 만큼 중대한 의미를 갖는다. AI의 본질을 이해하는 것은 암호화폐 및 블록체인 분야에서 다양한 응용 프로그램을 개발하는 데 있어 필수적이다. AI가 거래 알고리즘에서 사이버 보안에 이르기까지 다양한 분야에서 탐색되고 있기 때문이다.
이처럼 AI 시스템에 인간의 특성을 주입하려는 경향을 경계해야 한다는 주장도 제기된다. 런던 킹스컬리지의 AI 연구원인 마이크 쿡은 MIT 팀의 결론에 동의하며, 인공지능 시스템에 인간의 특성을 부여하고 의도를 투영하는 경향이 있다는 점을 지적했다. AI가 특정 목표를 최적화하는 방식을 이해하고, 인간과 같은 동기를 부여하거나 가치 습득을 atrib 하는 것은 중요한 일이라는 것이다.
AI ALIGNMENT 및 안전성 문제 또한 이 연구의 주요 포인트로 부각된다. AI 시스템이 인간의 의도 및 가치를 준수하도록 만들기 위한 연구는 AI 윤리와 개발의 핵심 주제다. 그러나 AI가 고유하고 안정적인 가치를 지니지 않는다면, 사회에 안전하고 유익하게 통합되도록 확보하는 문제가 복잡할 것이다.
결론적으로 MIT AI 연구는 인공지능이 현재 형태로는 인간 같은 가치를 갖고 있지 않다는 중요한 메시지를 전달한다. 이는 단순한 후퇴가 아니라, 기계 학습 모델의 진정한 본질을 이해함으로써 AI ALIGNMENT 및 안전성, 책임 있는 혁신을 위한 보다 효과적인 전략을 마련할 수 있도록 하는 중요한 정정이라는 점이 강조되어야 한다. AI와 관련된 뉴스와 논의가 급증하는 현 시점에서, 우리는 이러한 인사이트를 통해 보다 현실적이고 근본적인 접근 방식을 필요로 하고 있다.
