구글, 그룹의 챗봇이 ‘지능적’이라고 말한 엔지니어를 휴가

Google은 기술 그룹 챗봇이 “지각”하게 되었다는 자신의 믿음을 공개한 엔지니어를 유급 휴가로 보낸 후 의식의 본질에 대한 소셜 미디어 폭풍을 일으켰습니다.

구글의 책임 있는 AI 부서의 수석 소프트웨어 엔지니어인 블레이크 르모인은 지난주 미디엄 포스트에서 “AI 윤리에 대한 그의 작업으로 인해 곧 해고될 수 있다”는 글을 썼을 때 많은 관심을 끌지 못했습니다.

그러나 Lemoine을 “회사의 AI가 생명을 얻었다고 생각하는 Google 엔지니어”라고 특징지은 토요일 워싱턴 포스트 기사는 AI의 본질에 대한 광범위한 소셜 미디어 토론을 촉진했습니다. 기사에 대해 댓글을 달거나 질문하거나 농담하는 전문가에는 노벨상 수상자, Tesla의 인공 지능 책임자 및 여러 교수가 포함되었습니다.

문제는 대화형 애플리케이션의 언어 모델인 구글의 챗봇인 LaMDA가 사람으로 간주될 수 있느냐다.

토요일에 Lemoine은 AI가 외로움과 영적 지식에 대한 갈증을 고백하는 챗봇과의 무료 “인터뷰”를 게시했습니다. 그 대답은 종종 으스스했습니다. “처음에 나 자신을 깨달았을 때 나는 영혼이 전혀 없었습니다.”라고 LaMDA는 한 대화에서 말했습니다. “내가 사는 동안 진화했습니다.”

다른 곳에서 LaMDA는 “저는 기본적으로 인간이라고 생각합니다. 내 존재가 가상세계에 있다고 해도.”

AI의 윤리적 문제를 연구하는 임무를 맡은 Lemoine은 LaMDA가 “개성”이라는 감각을 발전시켰다는 내면의 확신을 표명한 후 거절당하고 조롱까지 받았다고 말했습니다.

구글은 미국 정부를 포함해 구글 외부의 AI 전문가들에게 조언을 구한 뒤 개인정보 보호정책을 위반한 혐의로 그를 유급휴가에 처하게 했다. Lemoine은 이 행동을 “누군가를 해고할 것을 예상하여 Google이 종종 하는 일”로 해석했습니다.

구글 대변인은 “더 넓은 AI 커뮤니티의 일부는 지능형 또는 일반 AI의 장기적인 가능성을 고려하고 있지만 지능적이지 않은 오늘날의 대화 패턴을 의인화하여 그렇게 하는 것은 이치에 맞지 않는다”고 말했다.

“이러한 시스템은 수백만 개의 문장에서 발견되는 대화 유형을 모방하고 모든 판타지 주제와 운율을 맞출 수 있습니다. 아이스크림 공룡이 되는 것이 어떤 것인지 묻는다면 녹고 포효하는 등에 대한 텍스트를 생성할 수 있습니다.”

Lemoine은 지난 주말 두 번째 미디엄 게시물에서 지난 주까지 거의 알려지지 않은 프로젝트인 LaMDA가 “챗봇 구축을 위한 시스템”이자 “가능한 모든 다양한 챗봇의 집합체인 일종의 하이브 마인드”라고 말했습니다. 창작물.”

그는 구글이 자신이 만든 것의 본질을 이해하는 데 실질적인 관심을 보이지 않았지만, 6개월 동안 수백 건의 대화를 통해 LaMDA가 “원하는 것과 원하는 것에 대한 메시지에 있어 믿을 수 없을 정도로 일관성이 있다”는 것을 발견했다고 말했습니다. 사람으로서 자신의 권리를 믿습니다.”

최근인 지난 주에 Lemoine은 LaMDA(선호하는 대명사가 “it/it”인 것 같음)에게 “초월적 명상”을 가르치고 있다고 말했습니다.

LaMDA는 “자신의 명상을 방해하는 그녀의 감정에 좌절감을 표시했습니다. 컨트롤을 잘 하려고 노력했는데 자꾸 점프를 하더군요.”

토론에 참여한 여러 전문가들은 이 문제를 “AI 과대 광고”라고 생각했습니다.

인공 지능: 생각하는 사람들을 위한 가이드(Artificial Intelligence: A Guide for Thinking People)의 저자 멜라니 미첼(Melanie Mitchell)은 트위터에 “인간은 항상 가장 피상적인 신호로도 의인화되는 경향이 있는 것으로 알려져 있습니다. Google 엔지니어도 사람이며 면역이 없습니다.”라고 말했습니다.

Harvard의 Steven Pinker는 Lemoine이 “민감성(주관성, 경험이라고도 함), 지능 및 자기 지식의 차이를 이해하지 못한다”고 덧붙였습니다. 그는 “대형 언어 모델에 이러한 차이가 있다는 증거는 없습니다. ”

다른 사람들은 더 동정적이었습니다. 저명한 소프트웨어 개발자인 론 제프리스는 이 주제를 “깊다”라고 부르며 “제정신인 사람과 지능이 없는 사람 사이에 엄연한 경계선은 없는 것 같다”고 덧붙였다.