OpenAI, AI 개발 중단 합의의 합법성 의회에 문의

OpenAI는 최근 몇 주 동안 경쟁 관계인 AI 기업들이 개발 속도를 늦추기로 합의하는 것이 법적으로 가능한지 의원들에게 물었다. 이 문제는 그러한 합의가 독점금지법을 위반할 수 있는지와 관련된다. 수석 과학자 야쿠프 파초키(Jakub Pachocki)는 개발자들이 시스템의 안전성을 더 잘 입증할 수 있을 때까지 자발적으로 개발 속도를 늦추자고 촉구했다. 애덤 시프와 짐 뱅크스 상원의원이 발의한 법안은 특정 보안 협력을 보호하도록 규정한다. 이 법안은 법무부에 사전 통지를 하도록 요구한다. 민주주의기술센터(Center for Democracy and Technology)의 미란다 보겐은 상업적·지정학적 경쟁 압력이 기업들로 하여금 위험을 완전히 파악하기 전에 제품을 출시하도록 만든다고 말했다. 보겐은 기업들이 연구를 줄이고 안전성 테스트를 생략하라는 압력을 받을 수 있다고 말했다. 미국과 중국은 AI 주도권을 놓고 경쟁하고 있다. 도널드 트럼프 대통령은 중국에 대한 미국의 우위를 약화시킬 수 있다는 우려로 5월 AI 행정명령을 연기했다. 트럼프는 이후 6월에 해당 명령에 서명했다. 이 명령은 첨단 모델을 출시하기 전에 자발적으로 검토하는 절차를 마련했다. 머신인텔리전스연구소(Machine Intelligence Research Institute)의 덩컨 세이비언은 재정적 유인이 공조를 어렵게 만든다고 말했다. 세이비언은 각각의 새로운 시스템이 더 역량 있는 후속 시스템을 만드는 데 도움을 줄 수 있다고 말했다. 세이비언은 공동 합의 없이 개발 속도를 늦추는 기업은 경쟁 기업이 앞서 나가도록 만들 수 있다고 말했다. OpenAI는 사이버보안 우려와 더 강력한 안전장치의 부재로 8월 내부 아스트라(Astra) 작업을 중단했다. OpenAI와 앤스로픽은 2월 안전 약속을 완화했다. 앤스로픽의 최고과학책임자 재러드 캐플런은 경쟁사들이 계속 발전하는 상황에서 독자적으로 속도를 늦추는 것은 의미가 줄어든다고 주장했다. 이 논쟁은 전 앤스로픽 엔지니어 제이컵 콕슨이 AI 개발 지속이 인류에 초래하는 위험에 대한 우려로 이번 주 사임을 발표한 뒤 더욱 거세졌다. 콕슨은 AI 개발자들이 자신들의 시스템이 10년 말까지 모두를 죽일 수 있다고 믿는다고 말했다. 세이비언은 다른 누군가가 자신들을 대신한다면 연구자들이 떠나도 거의 아무것도 이루지 못할 수 있다고 말했다. 세이비언은 충분한 수의 연구자들이 모두 중단해야 한다고 합의한다면 연구자들이 함께 중단할 수 있다고 말했다.