페이스북 연구진은 인공 지능(AI)이 자체적으로 언어를 만드는 법을 배운 것을 확인하자 프로그램을 강제 종료했다. 해당 AI 시스템은 의사 소통을 더욱 효율적으로 만드는 코드 단어를 개발했으며 연구진은 AI가 더 이상 영어를 사용하지 않는다고 생각되자 시스템을 오프라인으로 돌렸다.
페이스북이 발표한 내용에 따르면 두 협상 봇인 밥과 앨리스는 자신들만의 언어를 창조해 대화했다.
밥 : "나는 그밖의 나는 모든 것을 나는 할 수 있다.(I can I I everything else)"
앨리스 : "공애는 0이 있고 나에게 나에게 나에게(Balls have zero to me to me to me to me to me to me to me to me to)"
대화는 영어로 진행됐지만 사람은 이해할 수 없는 말이다. AI는 영어를 사용하도록 프로그래밍됐는데, 스스로 그것을 변형시킨 것이다.
연구진은 "이 말도 안 되는 구절은 봇들이 서로 의사 소통하기 위해 개발한 언어다. 밥은 앨리스에게 무언가를 제안하기 위해 새로운 언어를 사용했다"고 말했다.
페이스북 팀은 밥이 "나에게는 3개가 있고 나머지는 너에게 있다"고 말한 것 같다고 해석했다.
다른 회사의 인공 지능 개발자도 의사 소통을 단순화 하기 위해 언어를 개발한 프로그램을 관찰했다.
■ 보안 사건사고 제보 하기
★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★
저작권자 © 데일리시큐 무단전재 및 재배포 금지