덴버에서 열린 DenAI 정상 회담, 인공지능 법안 및 소비자 보호 문제 논의

덴버 시장이 윤리적 인공지능에 대해 승려와 인터뷰를 시작한 아침은, 기술 산업에서 많은 우려를 사고 있는 주제인 콜로라도의 인공지능 법안으로 마무리됐다.

이날의 진전은 인공지능(AI) 회의인 제2회 DenAI 정상 회담에서 이루어졌다. 이 회의는 덴버 시에서 주최하였으며, 2024년 5월에 폴리스 주지사가 서명한 콜로라도의 인공지능 법안에 대한 논의가 자연스럽게 이어졌다. 이 법안은 AI의 잠재적 위험으로부터 소비자를 보호하는 것을 목표로 하고 있지만, 기술 커뮤니티의 혁신 억제 우려로 인해 폴리스 주지사는 입장을 바꾸게 되었다.

법안의 주요 요구사항인 개발자가 합당한 주의를 기울이고 알고리즘 차별을 방지해야 한다는 조항은 모호하다는 비판을 받고 있다. 덴버의 다니엘스 재단의 수지 로야코나가 “콜로라도에서 활동하는 기업들이 어떻게 이러한 불확실성을 피할 수 있을까? 그리고 이 불확실성이 빠르게 성장하는 AI 스타트업들이 우리 주를 떠나게 하는 것을 방지하기 위해 무엇을 하고 있나”라고 질문했다.

이에 대해 폴리스 주지사는 전국적인 법안이 필요하다고 강조했다. 그는 “혁신과 성장을 촉진하는 AI 정책이 필요하다”라며 “만약 그러한 것이 없다면, 나는 콜로라도가 AI 분야에서 혁신을 이끌어 나갈 수 있는 최상의 주가 되도록 노력할 것이다”라고 말했다.

소비자 옹호자들은 이날 회의에 참석하지 않았으나, 해당 법안의 논의 과정 중에 데이터 편향으로 인해 고용주, 임대인 또는 대출 신청자들이 AI 시스템에 의해 무의식적으로 거부당하는 피해에 대한 우려를 표명한 바 있다.

덴버 시장 마이크 존스턴이 인터뷰한 티엔진 프리야다르쉬 승려는 “편향된 데이터에 대한 논의가 투명성 차원에서 과도하게 이루어지고 있다”며 “도시와 시민들이 어떤 기술을 채택해야 할지에 대한 논의에 더 많이 참여해야 한다”라고 강조했다.

그는 “대부분의 경우 도시 정부는 이러한 기술의 소비자가 되는 것이지, 정책 형성에 참여하지 않는다”라고 덧붙였다.

프리야다르쉬는 “덴버는 AI 거버넌스에 대해 공개적으로 논의하는 몇 안 되는 도시 중 하나”라며 이 자리에 참석한 이유를 밝혔다.

우연히도 캘리포니아 주지사 개빈 뉴섬은 AI의 소비자가 될 수 있는 잠재적 위험으로부터 소비자를 보호하는 법안인 상원 법안 53을 서명했다. 이 법안은 지난해 거부당한 법안의 ‘희석된 버전’으로, AI의 안전성을 검사하고 기업들에게 비상 정지 버튼을 만들 것을 의무화하는 조항이 포함되어 있었다.

구글의 정부 관계 담당자 크리스 터너는 “구글은 캘리포니아 법안을 선호하며, 현재 콜로라도에 있는 법안보다 더 좋은 법안”이라고 언급했다.

그는 “아직 초기 단계라 큰 문제들은 발생하지 않았다”면서 “새로운 법안이 갖는 문제는 의도치 않은 결과들”이라고 덧붙였다.

규정이 모호할 경우 신생 산업과 AI를 활용하는 비즈니스에 미칠 수 있는 영향이 크다는 점을 지적한 터너는 “AI는 도구일 뿐이며, 나쁜 사람들이 이를 나쁘게 사용하는 경우 법적 틀 내에서 해결할 수 있다”라고 주장했다.

또한 다른 패널리스트들은 끊임없이 변화하는 규칙을 설정하는 데 어려움을 겪는다고 밝혔다. 세일즈포스의 수석 AI 및 변혁 책임자 에릭 하이젠은 “우리는 정책 제품으로 매우 좋은 프레임워크를 만들었지만, 그것이 이미 구식으로 보인다”고 말했다.

그는 “우리가 맡고 있는 역할은 기술 변화 기간 중 아무 때보다 빠르게 발전하고 있다”고 평가하며 “유연성이 핵심”이라고 강조했다.

이미지 출처：coloradosun