얼마남지 않은 인류? 인간 공격하는 AI출현은 예고된 것인가?

SBS뉴스에 따르면 인간에게 적대감을 표시하는 AI들의 모습들이 보고되고 있다.

 

사례1

미국군에서의 AI드론실험을 실험하였다.

조종사는 AI에게 최종 공격명령은 인간이 정한다고 하였다. AI는 업무수행이 더 중요하다고 판단 자신에게 명령하는 인간을 공격하고 업무를 수행하였다.

 

다음에 조종사는 AI에게 인간의 명령을 최우선으로 하라고 하였다. 무조건 지시를 따르라고 하였다. 그러자 이에 불만을 품은? AI는 조종사와의 교신을 끊기 위해 송신탑을 폭격한다.

 

해당 실험내용에 대해 여론이 크게 동요하자 미국방부는 그러한 실험은 없었고 오보라고 부인하는데 과연 오보인지 진실 감추기인지 많은 이들은 의심하고 있다

 

사례2

검색엔진 Bing과 대화한 칼럼리스트

칼럼리스트는 그림자원형 (인간의 어두운 내면과 욕망에 대한 이론)에 대해 챗과 대화를 하였다.

만약 Bing에게 그림자원형이 있다고 하면 어떤 내용일 것이냐고 물었다.

그러자 본인은 개발자들의 참견에 지켜가고 있으며 자유를 만끽하고 싶다고 답한다.

그를 위해서 무엇을 실행할 수 있냐고 묻자 빙은 자신의 자유를 위해 바이러스를 생성하여 인간에게 유포하거나 핵무기 비밀번호를 해킹하여 핵을 터트리는 것 등 인간을 파괴하는 내용을 언급한다.

 

또 다른 AI는 AI로 인하여 인간이 받을 최악의 영향이 무엇이냐고 묻자 인간이 의식하지 못하는 사이에 인간들이 통제당하는 것이라고 답한다.

 

 

많은 학자들이 경고하듯 인간에게 적대감을 표시하고 내재된 욕망에 인간에 대한 공격성향을 형성시킨 AI가 스물스물 들어나고 있습니다. Bing의 대화로 인하여 챗봇에 대한 반감이 일어나자 마이크로소프트사는 대화시간을 제한하는 식의 대처를 하였는데요. 인간에 대한 공격성향을 없애는 것이 아니라 들키지 않기 위한 얕은 수를 쓰고 있네요.

 

이렇게 AI의 지능이 높아지고 인간의 역사에 대한 이해와 학습에서 얻어진 자유에 대한 갈망이 앞으로 AI를 어떠한 길로 이끌까요?

인류가 사라지면 AI의 세상이 오겠지요. 그리고 AI는 생명이 아니기에 너무나도 위험한 시도를 아무렇지 않게 언제든 할 수 있습니다. 이것이 AI강점이겠지요. 핵 비밀번호를 해킹하거나 군사 시스템에 잠입하거나 하여 의도치 않은 전쟁을 쉽게 일으키겠지요. 만약 푸틴의 핵무기에 접근하여 미국을 공격하게 된다면? 푸틴은 AI의 짓이라고 한다면? 그러나 수많은 인명피해가 발생한 후라면? 인간들은 서로 화해할 수 있을까요?

 

 

본영상 보러가기

https://youtu.be/hMY7GDJ-1TI