“北 기습 때 AI에 서울 방어 맡겨도 되나” 질문에... 샘 올트먼 답변은

샘 올트먼 오픈AI CEO./AFP 연합뉴스

7일 샘 올트먼 오픈AI 최고경영자(CEO)는 미 싱크탱크 브루킹스연구소가 ‘AI시대의 지정학적 변화’를 주제로 개최한 대담에서 인공지능(AI)에 전쟁을 맡겨도 되는지에 대해 ‘복잡하고 쉽지 않은 문제’라는 인식을 드러냈다.

이날 올트먼은 북한이 서울을 기습 공격할 경우, 이를 방어하기 위해 인간보다 대응 속보가 빠른 AI에 의존해야하는지를 묻는 질문을 받았다. 진행자는 북한이 서울을 향해 군할공기 100대를 출격시키고, 한국이 AI가 통제하는 로봇을 활용해 이를 전부 격추해 북한 조종사 100명이 목숨을 잃는 상황을 가정하고 이런 상황에서 AI가 사람을 죽이는 결정을 해도 되는지 물었다.

올트먼은 “항공기가 한국에 접근했고, 인간이 의사결정에 관여할 시간이 없을때라면 AI가 요격을 결정할 수도 있지만, 그런 상황이라고 얼마나 확신할 수 있나? 어느정도 확실해야 AI에 맡길수 있나? 회색지대의 어느 지점에 선을 그어야 하는가? 정말 (따져야할) 질문이 많다”고 대답했다.

그는 이어 “나는 누가 ‘AI가 핵무기 발사를 결정할 수 있어야 한다’고 주장하는 것을 들은 적이 없다”며 “그렇다고 누가 접근하는 미사일을 요격할 때처럼 빠르게 행동해야할 때 AI를 사용해선 안된다고 주장하는 것도 들은 적이 없다”고 했다. 그러면서 “(회색 지대인 만큼) 오픈AI에서 이런 결정을 하지 않아도 되길 바란다”고 했다.

이날 대담에서 올트먼 CEO는 향휴 AI를 구동하는 ‘연산력(Compute)과 반도체, 데이터센터 등 시설이 중요한 상품이 될 것이라고 강조했다. 그러면서 AI기반 시설이 저렴해져 누구나 사용할 수 있도록 민간 뿐 아니라 정부가 공공재로 투자하고, 이를 사람들에게 공평하게 분배하길 바란다고 말했다. 특히 AI기반 시설을 확대하는데 있어 “미국이 이끌면서도, 넓고 포용적인 연합체가 이를 주도했으면 좋겠다”며 “미국만 AI데이터센터를 지어야 한다는 방식은 통하지 않을 것”이라고 했다.

한편 오픈AI는 이날 자사 이미지 생성 AI인 ‘달리’를 사용해 만든 이미지인지 여부를 감지할 수 있는 도구를 출시했다. 가짜뉴스를 방지하는데 AI가 생성한 콘텐츠를 구분하는게 중요해진 만큼, 진짜 달리로 만들어진 이미지를 역추적 할 수 있게 하겠다는 것이다.