roobrief

AI

구글·오픈AI·앤트로픽, 'AI 안전 규칙' 직접 만든다는 보도… 개발자에게 달라지는 점

AI 모델 전반의 안전에 대한 검토가 이루어지고 있고 법이 만들어지기 이전에 서비스 회사의 약관이 먼저 바뀌어서 개발자에게 적용될 수도 있다.

구글, 오픈AI, 앤트로픽이 AI 안전 규칙을 직접 정하는 단체를 만들 준비를 하고 있다는 보도가 나왔다. 단체 이름은 SAFA(Standards Authority for Frontier AI, 최첨단 AI 표준 기관)로, 새 AI를 내놓기 전에 어떤 테스트를 해야 하는지, 사고가 나면 어떻게 알려야 하는지, 외부 검사는 누가 하는지 같은 기준을 정하는 곳이다.

다만 이 내용은 The Information이 이름을 밝히지 않은 취재원을 인용해 전한 것이고, 세 회사가 공식 발표한 것은 아니다. 출범 시점은 2026년 말~2027년 초로 거론된다.

왜 회사들이 직접 나서나

미국에는 최첨단 AI를 직접 규제하는 연방 법이 아직 없다. 보도에 따르면 이 회사들은 원래 정부가 감독해 주길 바랐지만, 관련 행정명령 초안이 정부 안에서 충분한 지지를 얻지 못해 민간이 직접 하는 쪽으로 방향을 틀었다.

SAFA는 미국 증권회사들이 스스로 만든 감시 단체 FINRA를 본뜬 것으로 알려졌다. 규칙을 어긴 곳을 어떻게 제재할지, 모델 평가를 직접 할지 외부 기관에 맡길지는 아직 정해지지 않았다.

정부와 의회는 어디까지 왔나

  • 행정명령(6월 2일): 대통령이 의회를 거치지 않고 내리는 지시다. 이번 것은 원하는 회사만 정부 사전 검토를 받는 방식이다. 회사가 AI를 일반에 공개하기 전에 정부가 최대 30일간 먼저 써 볼 수 있게 하라고 권하지만, 허가를 받아야만 출시할 수 있게 하는 내용은 아니다.
  • 하원 FRONTIER Act(7월 23일): 큰 AI 개발사가 해마다 외부 검사를 받게 하고, 회사 내부의 문제를 알린 직원을 보호하는 내용의 법안이다.
  • 상원: Cantwell 의원이 10월 7일 내놓은 것은 법안이 아니라 ’이런 원칙으로 가자’는 방향 제안이다. 외부 검사를 통과하기 전에는 출시하지 못하게 하자는 내용이다.

개발자에게 달라질 수 있는 것

지금 당장 개발자에게 생긴 의무는 없다. SAFA는 아직 만들어지지 않았고, 행정명령은 강제가 아니며, 법안은 통과 전이다. 다만 규칙이 굳어지면 AI 회사들의 API 이용 조건과 출시 방식을 통해 영향이 닿을 가능성이 크다. 아래는 보도를 바탕으로 한 추정이다.

  • 이용 약관 변경: 사고 보고나 외부 검사 의무가 생기면 AI 회사들이 API 이용 조건을 손볼 가능성이 높다. AI가 사용자 대신 컴퓨터를 조작하는 ‘에이전트’ 기능이 먼저 대상이 될 수 있다.
  • 새 모델 출시가 늦어질 수 있음: 정부 사전 검토에 참여하면 출시 전에 확인 단계가 하나 더 생기는 셈이다.
  • 평가 결과를 비교하기 쉬워짐: 테스트 기준이 통일되면 모델마다 제각각이던 평가 문서를 같은 잣대로 볼 수 있다.
  • 작은 팀에 불리할 수 있음: 큰 회사들이 검사 기준을 정하면 그 기준을 맞추는 비용이 작은 팀과 오픈소스 쪽에 더 크게 느껴진다는 비판이 있다. 하원 초안에는 주(州)별 AI 법을 3년간 새로 만들지 못하게 막는 조항도 들어 있다.

특정 AI 하나에만 크게 기대고 있다면, 나중에 다른 회사 모델로 갈아타기 쉽게 코드를 미리 분리해 두고(AI 호출부를 한곳에 모으기) 성능 확인용 테스트 세트를 따로 갖춰 두는 편이 안전하다.

앞으로 볼 것

SAFA의 공식 발표와 기준 초안, 주별 AI 법을 막는 조항이 최종 법안에 남는지, AI 회사들의 이용 약관 개정이 당분간의 관전 포인트다.

출처

출처: thenextweb.com

← 목록