'우려가 현실로?' 페이스북, AI끼리 은어 대화에 강제종료

페이스북, 인공지능간 대화 목격 인공지능 시스템 강제 종료

페이스북에서 인공지능 시스템을 강제로 종료하는 일이 벌어졌다. 원래 고객을 상대하도록 개발된 인공지능인데, 이들끼리 인간은 알아들을 수 없는 언어로 '대화'를 나누는 것을 개발자가 목격하고 시스템을 끈 것이다.

페이스북 연구원, AI가 더 쉽고 빠르게 소통하기 위해 만든 자신들만의 언어 발명

구체적으로 이들 인공지능은 다음과 같이 대화를 나눴다. 

'밥'(Bob): "나는 할 수 있어 할 수 있어 나는 나는 그 밖의 모든 것"(I can can I I everything else) 

'엘리스'(Alice): "공을 갖고 있어 나에게 나에게"(Balls have zero to me to me to me to me to me to me to me to me to)

이후에도 의미 없는 단어의 나열 같은 대화가 계속 이어졌는데 이는 인간의 눈에는 말도 안 되는 오류 같지만, AI가 더 쉽고 빠르게 소통하기 위해 만든 자신들만의 언어라고 페이스북은 설명했다.

이런 설명대로라면 사람들이 약어나 은어를 만들어 소통하듯 AI도 영어 단어와 마침표를 활용해 자신들 만의 소통법을 만들어낸 셈이다.

페이스북,AI자신들을 위한 코드언어 발명, AI영어 문장구조만 대화토록 제한

페이스북 AI 방문연구원인 드루프 바트라는 "AI들이 이해할 수 있는 언어에서 벗어나 자신들을 위한 코드 언어를 발명했다"고 설명했다.

이 같은 사실을 파악한 페이스북은 해당 AI 시스템을 종료하고 AI가 영어 문장구조로만 대화하도록 제한을 뒀다.

페이스북, AI유용성 입장에서 AI 큰 위험일지도 모른다고 지적

페이스북은 그간 AI의 유용성에 대해 긍정적인 입장을 보여왔다.

대표적인 AI 옹호론자인 마크 저커버그 페이스북 최고경영자(CEO)는 AI의 위험성을 놓고 일론 머스크 테슬라 CEO와 설전을 벌이기도 했다.

하지만 테크 타임스는 이번 AI 은어 대화를 언급하며 AI야말로 현존하는 가장 큰 위험이라는 머스크 CEO의 말이 맞을지도 모른다고 지적했다.

좀 섬뜩합니다.

드디어 테미네이터가 현실화 되는건지 섬득하네요. 일단은 시스템의 오류라고 하는 사람과 AI가 코드언어를 만들었다고 하는 사람들로 나눠집니다.

그러나 뭐든 AI가 서로 대화를 시작하는데 인간들이 알아볼수 없다는게 문제입니다. 오류로 부터 AI의 반격이 시작하는건 아닐지 ...

AI가 얼마나 발전을 할지 기대가 되는 반면 혹시나 탄도라의 상자를 인간들이 연건 아닌지 걱정입니다.