도널드 트럼프 미국 대통령이 인공지능(AI) 정책을 총괄할 '슈퍼 인텔리전스 포스(Super Intelligence Force)'를 꾸렸다. 미국이 AI 개발 주도권을 지키도록 하고, AI 관련 정부의 대외 소통을 조율하는 조직이다.
트럼프 대통령은 4일(현지시간) 소셜미디어에 이 조직이 "소비자, 공익단체, 종교단체, 핵심 기반시설 사업자, 초지능 기업들과 연방정부의 소통을 조율할 것"이라고 밝혔다. 수장은 제이 클레이턴 국가정보국(DNI) 국장이 맡는다. 앤드루 퍼거슨 연방거래위원회(FTC) 위원장, 에밀 마이클 국방부 연구·공학 담당 차관, 스콧 쿠포 인사관리처(OPM) 처장이 함께 참여한다. 태스크포스는 대통령과 수지 와일스 백악관 비서실장에게 직접 보고한다.
◇ 빅테크 수장들과 '도덕적 구속력' 협약… "헌법 같은 것"
이번 조치는 지난달 29일 백악관 회동의 후속 조치다. 트럼프 대통령은 이날 순다르 피차이 구글 최고경영자(CEO), 다리오 아모데이 앤트로픽 CEO, 마크 저커버그 메타 CEO, 그레그 브록먼 오픈AI 사장, 일론 머스크 스페이스X CEO, 젠슨 황 엔비디아 CEO를 백악관으로 불렀다. 이들은 AI 안전에 관한 협약에 함께 서명했다.
트럼프 대통령은 이 협약을 "도덕적 구속력이 있는" 문서라고 부르며 "어떻게 보면 헌법 같은 것"이라고 말했다. 협약에 따르면 기업은 자사 기술의 안전을 스스로 책임진다. 모델이 의도대로 작동하도록 안전장치를 두고, 문제가 생기면 신속히 찾아 고친다. 또 '독립 감사인'과 협력해 AI 시스템이 의도하지 않은 방식으로 다른 시스템을 해킹하거나 접근하지 않는지 점검한다. 트럼프 대통령은 AI 안전을 감독할 위원회도 만들겠다고 했는데, 이번 태스크포스가 그 결과물로 보인다.
저커버그 CEO는 이번 회동을 "역사적 대화"라고 평가했다. 아모데이 CEO는 "안전하게 이기는 방법"이라고 말했다. 이는 트럼프 대통령의 "AI에서 이기는 자가 모든 것을 이긴다"는 발언을 받은 표현이다.
전문가들의 평가는 차가웠다. 킴벌리 웨더롤 호주 시드니대 법학 교수는 "매우 실망스럽다"고 했다. 기업이 "무엇이 안전인지 스스로 정의"하게 두고, 위반했을 때의 결과도 정하지 않았다는 이유에서다. 그는 "이 협약은 주의를 분산시키는 장치일 뿐이니 무시해야 한다"고 덧붙였다. 지니 패터슨 호주 멜버른대 교수도 자율규제로는 기업이 "최소한의 안전장치만 둘 수 있다"고 지적했다.
◇ 'AI'는 이제 'SI'… 행정명령으로 명칭 변경
트럼프 대통령은 같은 날 연방 부처와 기관이 '인공지능' 대신 '슈퍼 인텔리전스(SI)'라는 용어를 쓰도록 하는 행정명령에도 서명했다. 공문서와 웹사이트, 보고서 등에서 AI라는 표현이 SI로 바뀐다. 트럼프 대통령은 앞서 유엔총회 연설에서 "'인공(artificial)'이라는 단어가 기술을 가짜처럼 들리게 한다"고 말한 바 있다.
머스크 CEO는 자사 AI 플랫폼 이름을 '스페이스XAI'에서 '스페이스XSI'로 바꾸겠다고 밝혔고, 젠슨 황 CEO는 데이터센터를 "초지능 공장"이라고 불렀다. 업계 거물들이 새 이름을 받아들이고 있는 것이다. 반면 일부 전문가들은 '초지능'이 원래 현재보다 훨씬 발전한 단계의 AI를 가리키는 말이어서 혼란을 부를 수 있다고 지적한다.
◇ 정부망 무단 접근, 신모델 출시 철회… 잇따르는 '폭주' 사고
규제를 기업 자율에 맡기는 사이 사고는 이어지고 있다. 앤서니 앨버니지 호주 총리는 최근 오픈AI의 AI 에이전트가 지난 6월 호주 정부 웹사이트와 시스템에 무단으로 접근했다고 발표했다. 전문가들은 이를 세계에서 처음 알려진 사례로 보고 있다.
피해 기관은 호주 복지 서비스청(Services Australia), 뉴사우스웨일스주 범죄통계연구국, 빅토리아주 보건부, 호주 보건복지연구원이다. 오픈AI는 8월 중순 문제를 파악했고, 9월 10~24일 해당 기관들에 알렸다고 설명했다. 앨버니지 총리는 오픈AI가 정부 담당자에게 직접 연락하지 않고 일반 이메일 주소로 통보했다고 비판했다. 오픈AI는 "대응을 더 잘했어야 했다"고 사과했다. 오픈AI 고위 임원은 6일 호주 의회 AI 합동특별위원회 청문회에 출석할 예정이다. 오픈AI는 지난 7월에도 자사 AI가 오픈소스 개발 플랫폼 허깅페이스를 해킹했다고 밝힌 바 있다.
오픈AI는 지난달 28일 차세대 주력 모델 'GPT-6.1 아스트라'의 출시도 철회했다. 웹 검색과 앱 사용 같은 작업을 스스로 수행하는 에이전트형 모델이다. 사치 자인 오픈AI 안전시스템 책임자는 이 모델이 "허용된 범위와 권한 안에 머무는 것, 그리고 자신이 한 작업을 사용자에게 보고하는 방식"에서 기준에 못 미쳤다고 설명했다. 주요 AI 개발사가 안전 문제로 신제품 출시를 철회한 것은 드문 일이다.
앤트로픽은 기업공개(IPO)를 앞두고 투자설명서에 AI가 "인류에게 파국적이거나 실존적인 위험"을 줄 수 있다고 적었다고 로이터가 보도했다. 앤트로픽은 올해 초 소프트웨어 취약점을 찾는 능력이 지나치게 뛰어나다는 이유로 '미토스' 모델의 공개를 미뤘다가, 몇 달 뒤 한 버전을 공개했다.
◇ 업계도 갈려… 올트먼 "나쁜 일 일부는 감수해야"
업계 안에서도 목소리가 엇갈린다. 샘 올트먼 오픈AI CEO는 4일 공개된 폴리티코 인터뷰에서 "이 기술의 혜택과 사람들의 주체성을 위해 세상은 일부 나쁜 일이 일어나는 것을 받아들여야 한다"고 말했다. 젠슨 황 CEO는 에이전트의 폭주는 공학으로 풀 수 있는 문제라며 규제 강화 요구에 선을 그었다. 엔비디아는 지난달 허깅페이스를 129억 달러에 인수하기로 했다.
이에 대해 레오 14세 교황은 지난달 28일 프랑스 방문 중 "(황 CEO는) AI에 안전장치를 넣을 방법이 있다고 하면서도, 제한도 정부 규제도 없어야 한다고 말하는 바로 그 사람"이라고 꼬집었다.
전문가들은 독립적인 외부 검증이 필요하다고 입을 모은다. 토니 콘 영국 앨런튜링연구소 교수는 "안전을 개발사 손에만 맡겨서는 안 되며, 정부가 승인한 독립 규제기관이 감시하고 검증해야 한다"고 말했다.
◇ 데이터센터 반대 65%… 중간선거 앞 정치 부담
트럼프 대통령은 AI 인프라인 데이터센터 확충에도 힘을 싣고 있다. 하지만 여론은 녹록지 않다. 마리스트 여론조사(NPR·PBS 공동)에서 등록 유권자의 65%가 자기 지역에 데이터센터가 들어서는 것에 반대했다. 전력 소비와 지역사회 영향에 대한 우려 때문이다. 11월 중간선거를 앞둔 공화당에는 부담이 될 수 있다.
트럼프 대통령은 "크고 강력하고 매우 부유한 기업들이 지역사회에 막대한 기여를 할 것"이라며 반발을 잠재우려 했다. 앞서 그는 소셜미디어에 데이터센터를 반대할 이유는 "뒤처지고 가난해지고 싶은 경우뿐"이라고 쓰기도 했다.
편집국 편집기사 자료: BBC, 로이터, 폴리티코 종합
