By 비즈테크 
캘리포니아의 AI 법안 SB 1047, 그 속사정과 의미
안녕하세요, 여러분. 오늘은 기술과 법이 교차하는 지점에서 심오한 토픽을 다루어 보겠습니다. 캘리포니아 주지사 Gavin Newsom이 AI와 관련한 폭넓은 규제를 목표로 한 법안 SB 1047에 대해 거부권을 행사했다고 합니다. 이 법안은 거대 AI 모델이 인간에게 “치명적인 해”를 가하는 것을 방지하기 위한 것이었으며, 이는 최근 AI가 폭발적으로 성장함에 따라 필요성이 대두된 사항입니다.
이 포스트에서는 Newsom 주지사가 왜 이 법안을 거부했는지, 그가 제시한 대안은 무엇인지, 그리고 왜 이 법안이 실리콘 밸리와 AI 연구자들 사이에서 뜨거운 논쟁거리가 되었는지를 살펴볼 예정입니다.
SB 1047의 목적과 내용
SB 1047은 AI 모델의 개발자들에게 그들이 개발한 기술로 발생할 수 있는 잠재적 위험을 막기 위한 안전 장치를 마련하도록 요구했습니다. 이 법안이 통과되었다면 AI 기술의 오용으로 인한 영향을 최소화하기 위해 초기 테스트, 외부위험 평가, 비상 정지장치를 마련해야 했습니다. 거대한 AI 모델을 상대로 하는 법이었기에, 이를 위반할 경우 처음엔 최소 1천만 달러의 벌금, 다음 위반 시에는 3천만 달러의 벌금이 부과되도록 제안되었습니다.
Newsom 주지사의 거부권 행사
하지만 Newsom 주지사는 이 법안이 “선의로 만들어진” 것이지만, AI 시스템이 고위험 환경에 배치되었는지 여부, 중요한 결정을 내리는 데 사용되는지에 대한 고려가 충분하지 못하다고 지적했습니다. 주지사는 “이 법안은 고비용 대형 모델에만 초점을 맞춰 규제 프레임워크를 구축함으로써, 빠르게 변화하는 기술을 통제하는 것에 대해 잘못된 안전감을 대중에게 제공할 수 있다”고 강조했습니다.
또한, Newsom 주지사는 “작고 전문화된 모델이 SB 1047이 목표로 하는 대형 모델만큼 위험할 수 있으며, 이러한 모델들이 대중의 이익을 위한 기술 혁신을 방해할 수 있다”는 점에서 법안의 한계를 지적했습니다.
전문가 및 업계의 반응
이 법안은 Scott Wiener 주 상원의원에 의해 작성되었으며, 유명한 AI 연구자인 Geoffrey Hinton과 Yoshua Bengio의 지원을 받았습니다. 그들은 AI의 발전과 함께 다가올 수 있는 잠재적 재앙을 미연에 예방하려 했습니다. 이런 노력을 하면서도, 실리콘 밸리와 AI 연구자들 일부는 오히려 이 법안이 기술 혁신을 저해할 것으로 우려했습니다. 예를 들어, Meta의 AI 수석 과학자인 Yann LeCun은 이 법안이 AI의 새로운 용도를 탐구할 수 있는 가능성을 제한할 것이라고 비판했습니다.
캘리포니아의 기술 산업을 대표하는 무역 그룹은 큰 기술 발전을 방해할 수 있다는 이유로 이 법안을 반대했습니다. 여러 스타트업과 기업들은 SB 1047이 AI 혁신자들에게 불필요한 재정적 부담을 줄 수 있다고 우려했습니다.
법안의 미래와 캘리포니아의 책임
Newsom 주지사는 법안을 거부했지만, 여전히 AI의 안전성을 높이기 위한 노력을 기울이고 있습니다. 그는 “대중을 보호하기 위해 대책을 마련하는 것은 중요하지만, 실질적인 데이터와 AI 시스템의 역량에 대한 분석에 입각한 해결책을 모색해야 한다”고 강조했습니다. 빠르게 변화하는 AI 기술의 특성을 반영할 수 있는 규제 프레임워크 개발의 필요성을 역설한 것입니다.
결론적으로, SB 1047의 거부는 단지 끝이 아니라, 법적으로 AI의 역할과 책임을 어디까지 규정할 것인가에 대한 복잡한 논의의 시작일 뿐입니다. 우리는 Newsom 주지사의 결정을 통해, AI의 위협을 어떻게 관리할 것인가에 대한 해답을 모색해야 하며, 이 과정에서 기술 혁신과 공공의 안전을 동시에 지킬 수 있는 방법을 찾아야 할 것입니다.
일상에서 기술이 미치는 영향을 우리는 점점 더 깊이 이해하게 될 것입니다. 뉴스가 아닌 일상적인 대화 속에서 이런 주제들이 오가며 변화하는 시대에 적응할 수 있는 힘이 생길 수 있길 바랍니다. 이 글이 여러분에게 깊은 통찰을 가져다주었기를 바랍니다.