뉴욕주, 인공지능 재난 방지 법안 통과

- 뉴욕주 의회, 대형 인공지능 연구소를 대상으로 한 'RAISE 법안(Responsible AI for Safety and Effectiveness Act)' 통과 - 대규모 인공지능 재난 방지를 목적으로 한 법안 뉴욕, 2025년 6월14일 - 뉴욕주 의회는 14일(현지시각) 다수 매체에 따르면 'RAISE 법안'을 통과시켰다. 이 법안은 오픈AI(OpenAI), 구글(Google), 앤트로픽(Anthropic) 등 대형 인공지능 연구소의 최첨단 인공지능 모델로 인한 대규모 재난 방지를 목표로 한다. 이 법안은 현재 캐시 호컬(Kathy Hochul) 뉴욕 주지사의 서명을 기다리고 있다. RAISE 법안이 대상으로 하는 인공지능 관련 재난은 100명 이상의 사망 또는 부상, 또는 10억 달러 이상의 경제적 손실을 야기할 수 있는 경우다. 법안은 인공지능 모델 훈련에 1억 달러 이상의 컴퓨팅 자원을 사용하고 뉴욕 주민에게 서비스를 제공하는 기업을 대상으로 한다. 해당 기업은 프론티어 인공지능 모델에 대한 안전 및 보안 보고서를 의무적으로 발행해야 한다. 또한, 인공지능 모델의 오작동이나 사이버 공격으로 인한 모델 탈취 등 안전 사고 발생 시 이를 보고해야 한다. 법규 위반 시 뉴욕주 법무장관은 최대 3000만 달러의 민사 벌금을 부과할 수 있다. 이 법안은 노벨상 수상자인 제프리 힌튼(Geoffrey Hinton)과 인공지능 연구 선구자인 요슈아 벤지오(Yoshua Bengio) 등 인공지능 안전 전문가들의 지지를 받고 있다. 법안 공동 발의자인 앤드류 구나르데스(Andrew Gounardes) 뉴욕주 상원의원은 12일 뉴욕주 상원 보도자료를 통해, "RAISE 법안이 스타트업이나 학계 연구자들의 혁신을 저해하지 않도록 설계되었다"고 밝혔다. 그는 또한 "기술 발전 속도를 고려할 때 인공지능 위험에 대한 가드레일 설치가 시급하다"고 강조했다. 그러나 법안에 대한 비판도 있다. 앤드리슨 호로위츠(Andreessen Horowitz)의 제너럴 파트너 안즈니 미다(Anjney Midha)는 "이 법안이 미국의 인공지능 경쟁력을 저해할 것"이라고 비판했다. 그리고 앤트로픽의 공동 창업자 잭 클락(Jack Clark)은 "법안의 광범위한 적용 범위가 소규모 기업에 위험을 초래할 수 있다"고 우려를 표했다. 이에 대해 앤드류 구나르데스 상원의원은 "해당 비판이 핵심을 놓치고 있다"고 지적했다. 그는 "법안은 중소기업에는 적용되지 않도록 설계되었다"고 반박했다. 알렉스 보레스(Alex Bores) 뉴욕주 하원의원은 "RAISE 법안의 규제 부담이 비교적 가벼워 기술 기업들이 뉴욕에서 철수할 이유는 없을 것"이라고 언급했다. RAISE 법안은 캘리포니아(California)에서 거부된 SB 1047 법안과 일부 유사점을 공유한다. 하지만 모델 개발자에게 '킬 스위치'를 요구하거나 모델 후훈련 기업에 책임을 묻는 조항은 포함하지 않는 등 차이점도 있다. 법안이 최종적으로 서명되어 발효되면, 미국에서 선도적인 인공지능 연구소에 법적으로 의무화된 투명성 기준을 최초로 마련하는 사례가 될 것이다. 캐시 호컬 주지사는 법안에 서명하거나, 수정을 위해 돌려보내거나, 거부권을 행사할 수 있다.