이세돌 9단과 인공지능의 대결은 마치 인류에 대한 로봇의 역습처럼 여겨졌다. 지금은 인공지능이 사람의 삶의 질을 높이는 기술로 인식된다. 딥마인드의 대표 데미스 하사비스(Demis Hassabis)는 어떻게 생각할까?

딥마인드 데미스 하사비스 CEO는 타임지와의 인터뷰에서 “AGI는 인간 삶의 구조 자체를 변화시킬 획기적 기술이 될 것이다. 반면 많은 사람이 그들이 위험한 물질을 가지고 있다는 것을 깨닫지 못하고 있다”고 지적했다.

하사비스 CEO가 걱정하는 것은 "속도"이다. 그는 "현재 AI 기술은 인류 문명에 큰 피해를 줄 수 있는 도구를 만들 수 있는 수준에 이르렀다"고 뉴욕타임즈와의 인터뷰를 통해 말했다. 하사비스는 엔지니어들이 기술을 먼저 세상에 공개하고 발생하는 결함들을 해결하는 '메타(과거 페이스북)' 스타일을 비판하며, 경쟁자들에게 이전보다 더 신중하게 AI개발을 진행할 것을 촉구했다.
뉴욕타임즈 인터뷰에 응한 하사비스 CEO는 "나는 점점 커지는 AI에 대해 엄중한 경고를 하기 위해 인터뷰에 동의했다. 엔지니어가 자신의 기술을 세계에 먼저 출시하고 발생하는 모든 문제를 나중에 해결하도록 하는 페이스북의 모토는 이제 혼란과 동의어가 됐다. 한 신생기업의 모토는 전세계 30억 명 사용자를 확보하는데 도움이 됐다. 그러나 허위 정보, 증오심 표현이나 심지어 대량 학살 선동이 플랫폼에 나타나도 회사가 대응할 수 없는 상태를 만들었다"며, "인공지능도 유사한 방향으로 발전하고 있다"고 경고했다.

하사비스는 "인공지능은 인류 역사상 가장 강력한 기술 중 하나가 될 것임에는 틀림없다. 그러나 우리는 조심해야 한다. 모든 사람들이 (조심해야 한다고) 깊게 생각하는 것은 아니다. 위험한 물질을 다루고 있다는 사실을 깨닫지 못하는 실험자와 같다. 이는 사람이 기니피그(실험용 쥐)가 된 꼴이다"고 지적했다.

범용인공지능(AGI)는 언어, 이미지, 음성, 영상 등의 데이터를 인간에 가까운 지능으로 처리할 수 있는 인공지능을 말한다. 인간의 명령이 없어도 스스로 사고하고 일을 진행할 수 있다는 점에서 "강력하고 완전한 AI"라고 불린다. 알파고나 딥블루 등 AI 체스 프로그램은 "약한 AI"의 대표적 사례다.

최근 신약을 개발하기 위해 AI시스템을 구축한 연구원들은 치명적인 화학물질을 만들기 위해서도 쉽게 사용될 수 있다고 경고했다.

또한 혐오 발언을 토해내도록 훈련된 AI 모델이 개발됐다는 소식이 입소문을 타며 온라인 커뮤니티에 영향을 줄 것이라는 전문가들의 우려도 나온다. 특히 전세계 AI연구실 내부의 정책 전문가들은 AI가 무작위적인 해킹을 시작하거나 핵 무기에 대한 비밀을 추론하기 위해 위험 국가들이 AI를 사용할 때 어떻게 대응할 지에 대한 고민과 씨름 중이다.

딥마인드의 라이벌 'OpenAI'가 내놓은 'ChatGPT"는 인간이 글쓰는 것처럼 놀라운 답변 결과를 주고 있어 화제이다. 그러나 인종 차별적 표현과 잘못된 정보에 대한 검열 기준이 없어 비판에 직면하고 있다.

'프리스마랩(Prisma Lab)'이라는 셀카도 비판을 받았다. 해당 앱의 AI 프로그램이 이미지를 성적 대상화해 훈련하는 편향성을 가지고 있었기 때문이다. 문제는 프리스마랩이 'Leuna'라는 작은 회사에서 만든 것이라는 점이다. 이제는 대규모 자금이 있는 회사뿐만 아니라, 컴퓨터가 대중화 된 것처럼 누구나 접근가능한 AI 기술이 된 것이다.

김윤진 기자 postmoneynews@gmail.com