OpenAI CEO, 미국에 AI ‘초지능’ 위험과 이익 대비 촉구

OpenAI 최고경영자(CEO) 샘 올트먼은 첨단 인공지능에 대비하기 위해 미국 정책 입안자들이 지금 당장 조치를 취해야 한다고 밝혔으며, 해당 기술이 이론 단계를 넘어 일상 경제 활동에 활용되는 단계로 접어들고 있다고 경고했다.

인터뷰에서 Axios, 올트먼은 AI 시스템이 이미 여러 명의 프로그래머 팀이 필요했던 코딩 및 연구 작업을 처리하고 있다고 말했습니다. 그는 최신 모델들이 한층 더 발전하여 과학자들이 중요한 발견을 하도록 돕고 개인이 전체 그룹의 작업을 수행할 수 있게 할 것이라고 밝혔습니다.

그러한 변화는 이미 사이버보안 분야에서 나타나고 있으며, 일부 업계 리더들은 인공지능이 공격자 쪽으로 균형을 기울이고 있다고 말합니다.

하드웨어 지갑 제조업체 레저의 최고 기술 책임자(CTO) 찰스 기메는 예를 들어, 코인데스크에 AI 도구들이 비용과 필요한 기술을 낮추는 소프트웨어 결함을 찾아내고 악용하는 작업. 코드 리버스 엔지니어링이나 여러 취약점을 연계하는 등 한때 수개월이 소요되던 작업들이 이제 적절한 프롬프트를 통해 단 몇 초 만에 완료될 수 있습니다.

지난해 암호화폐 산업에서는 14억 달러가 넘는 자산이 공격으로 인해 도난당하거나 손실되었습니다. 기예메는 이 수치가 계속 증가할 수 있다고 제안했습니다. 더불어 개발자들은 점점 AI 생성 코드를 더 많이 활용하고 있는데, 이는 잠재적으로 대규모의 새로운 결함을 초래할 가능성이 있습니다.

그는 대응책으로 수학적으로 검증된 코드, 개인 키를 오프라인 상태로 유지하는 하드웨어 장치, 그리고 시스템이 실패할 수 있다는 보다 폭넓은 인식과 같은 더 강력한 방어 수단이 필요하다고 말했습니다.

사이버 및 생물 보안 분야의 AI

알트먼은 AI가 신약 개발이나 소재 과학을 가속화할 수 있다고 언급하면서도, 동시에 더욱 강력한 사이버 공격을 가능하게 하고 유해한 생물학 연구의 장벽을 낮출 수 있다고 경고했다. 이러한 위협은 1년 이내에 발생할 수 있어 정부, 기술 기업 및 보안 단체 간의 협력이 시급하다고 강조했다.

“우리는 생물학에 매우 능숙한 놀라운 오픈 소스 모델들이 존재하는 세상과 그리 멀지 않은 곳에 와 있습니다,” 그가 말했습니다. “사회가 이러한 모델들을 사용하여 새로운 병원체를 만들어 내려는 테러 조직들에 대응할 수 있는 회복력을 갖춰야 할 필요성은 더 이상 이론적인 문제가 아닙니다.”

그가 제시한 또 다른 예는 빠르면 올해 발생할 수 있는 “세상을 뒤흔드는 사이버 공격”이었다. 이를 피하려면 “엄청난 노력이 필요하다”고 그는 말했다.

그는 OpenAI의 정책 아이디어를 출발점으로 삼아 빠르게 학습하고 여러 분야에서 활동하는 시스템을 어떻게 관리할지에 대한 논의를 촉진하는 것을 목표로 삼았습니다. 그는 이러한 잠재적 공격에 대비하기 위해 AI를 활용하는 것이 중요하다고 말했습니다.

OpenAI의 국유화 가능성에 대해, Altman은 이에 대한 주장이 미국이 경쟁국보다 먼저 “초지능”을 달성해야 할 필요성에 기초하고 있다고 말했다.

“국유화에 대한 가장 큰 반대 의견은 누군가보다 먼저 미국이 민주주의 가치에 부합하는 방식으로 초지능 구축에 성공해야 한다는 점입니다.”라고 그는 말했습니다. “그것이 정부 주도로는 잘 이루어지지 않을 것 같으며, 이는 안타까운 일이라고 생각합니다.”

그럼에도 불구하고 알트만은 AI에 관여하는 기업들이 미국 정부와 긴밀히 협력해야 한다고 믿고 있다고 말했다.

OpenAI에서의 그의 역할을 고려할 때, Altman은 이 분야가 어떻게 발전하는지에 대해 재정적인 이해관계를 가지고 있습니다. 이러한 입장은 규제의 긴급성과 OpenAI와 같은 민간 기업이 신흥 리스크를 관리하는 역할을 어떻게 표현하는지에 영향을 미칠 수 있으며, 이는 회사의 경쟁 지위에도 영향을 줄 수 있습니다.

AI를 유틸리티로서

그는 에너지 분야에서 빠른 진전을 기대하고 있습니다. AI 수요가 증가함에 따라 더 높은 처리 능력은 비용을 낮추는 데 기여할 수 있기 때문입니다.

올트먼은 또한 노동력 변화의 초기 징후를 지적했다. 2026년의 프로그래머는 1년 전과 이미 다르게 일하고 있다고 그는 언급했다.

AI는 기본적인 지능의 비용이 하락하고 최상위 시스템은 여전히 고가인 가운데, 전기와 같은 유틸리티로서 다양한 기기에 내장되는 방향으로 발전할 것입니다.

“당신은 이 개인 슈퍼 어시스턴트를 클라우드에서 실행하게 될 것입니다,”라고 얼트먼은 말했습니다. “많이 사용하거나 고도의 지능 수준으로 사용할 경우 한 달에 더 높은 요금이 청구될 것이고, 덜 사용할 경우에는 더 낮은 요금이 청구될 것입니다.”

AI를 개발하는 사람들은 매우 높은 도덕성과 신뢰성을 갖추는 것이 “매우 중요하다.”