앤트로픽, 정부의 AI 모델 차단 문턱을 '10억 달러·50명'으로 정한 연방법 초안 돌렸다는 보도
앤트로픽이 정부가 AI 모델을 막을 수 있는 선을 10억 달러(약 1조 3,000억 원) 피해 또는 50명 초과 사상 위험으로 좁힌 연방법 초안을 돌렸다. 공개 제안이 아니라 비공개 초안 보도이고, 개발사의 공개·평가·보고 의무는 이 기준과 별개다.
폴리티코(Politico)가 10월 16일, 앤트로픽이 의회 쪽에 돌린 비공개 연방 AI 법안 초안을 입수해 보도했다. 취재원은 사안을 아는 3명이다. 앤트로픽 대변인은 폴리티코에 “의회가 추진해야 할 합리적 정책”이라고 밝혔다. 이 글은 폴리티코 원문과 초안 문안을 직접 읽지 못하고 이 보도를 인용한 벤징가(Benzinga) 기사를 바탕으로 썼다.
10억 달러와 50명은 무엇의 기준인가
초안에서 정부는 프런티어 AI, 곧 가장 앞선 성능의 AI 모델이 임박한 위험을 낳을 때만 출시나 사용을 막을 수 있다. 문턱은 10억 달러 이상의 피해 또는 50명 초과의 사망·중상이다. 위험의 원인으로는 생물무기, 모델이 개발사의 통제를 벗어나는 일, 사이버 공격이 꼽혔다.
“규제가 개입하는 기준”으로 읽기 쉽지만, 보도된 내용은 정부가 모델을 멈출 수 있는 마지막 수단의 문턱에 가깝다. 막는 절차도 까다롭다. 상무부가 요청하고 워싱턴 D.C. 연방지방법원 판사만 정지를 결정할 수 있으며, 다른 기관은 모델의 개발이나 사용을 중단시킬 수 없다.
그 앞 단계에는 평가가 있다. 상무부에 등록한 독립 평가기관이 최첨단 모델을 점검하고, 개발사가 비용을 낼 수는 있지만 결과에 따라 금액이 달라지면 안 되고, 평가기관은 임박한 위험을 찾으면 72시간 안에 보고해야 한다. 이 대목은 캘리포니아의 AI 법(SB 53 등)과 비슷하다.
주법은 어디까지 대체되나
초안이 일부 주법을 연방법으로 대체한다는 점은 보도마다 같다. 위험 공개, 외부 평가, 사고 보고가 거론되는데, 기사가 “네 가지 영역”이라면서 셋만 적어 정확한 범위는 확인하지 못했다. 더 넓다고 보는 매체도 있다.
앤트로픽이 공개한 정책 문서와 어긋난다는 시각도 있다. 이 문서는 연방법이 제안한 틀만큼 강하지 않으면 주법을 대체하지 말고, 대체하더라도 아동 안전이나 소비자 보호 같은 영역은 주가 계속 규제하게 하자고 한다. 벤징가는 초안이 앤트로픽의 Advanced AI Framework와 연결돼 있다고 전했지만, 초안을 그 틀과 대조하지는 못했고 대체 조항이 이 조건을 어떻게 충족하는지도 알려진 바 없다.
의회에는 이미 다른 안이 있다. 하원에서는 트라한·오버놀트 의원의 FRONTIER Act가 위험한 모델의 배포를 정부가 멈출 수 있게 하는 방향이고, 상원에서는 툰 원내대표와 클로버샤·크루즈 의원이 비슷한 법안을 협의 중이며, 주법 대체에는 민주당이 저항해 왔다.
앞으로 볼 것
- 초안이 실제 법안으로 발의되는지, 문안이 공개돼 주법 대체 범위가 확인되는지
- 의회의 FRONTIER Act와 상원 협의안이 이 기준을 받아들이는지
- 다른 AI 기업이 비슷한 초안이나 입장을 내놓는지
환율은 10월 18일 기준 1달러 약 1,335원으로 환산했다.
출처
출처: www.benzinga.com