金融

AI 기업들, AI 정상회담에서 안전한 기술 개발을 약속하다, 국가들은 안전 기관에 합의

WMNAFriday, May 24 2024

SEOUL, South Korea (AP) — 선도적인 인공지능 회사들이 화요일 미니 정상회담에서 AI를 안전하게 개발하기로 새로운 약속을 했으며, 세계 지도자들은 기술의 연구 및 테스팅을 진행하기 위한 공공 지원 안전 기관 네트워크를 구축하기로 합의했습니다.

Google, Meta 및 OpenAI는 AI Seoul Summit에서 익스트림 리스크를 제어할 수 없는 경우 최신 시스템의 전원을 차단하는 등의 자발적인 안전 약정을 했습니다.

이 2일간의 회의는 지난 11월 영국 블레츌리 공원에서 열린 AI Safety Summit의 후속 행사로, 일상 생활과 인류에 대한 위험에 대한 우려 속에서 기술에 대한 가드레일을 설계하기 위한 정부 및 국제 기구들의 노력이 줄줄이 이어지고 있습니다.

영국 정부는 공동 주최한 이벤트를 위해 선언서에서 10개 국가 및 유럽 연합 지도자들이 “공통의 AI 안전에 대한 이해를 형성하고 AI 연구에 대한 노력을 조정할 것”이라고 밝혔습니다. 블레츌리 회의 이후 영국, 미국, 일본 및 싱가포르가 이미 구축한 안전 기관 네트워크에 포함될 것입니다.

유엔 사무총장 안토니오 구테레스는 개회식에서 지난 블레츌리 공원 회의 이후 7개월 만에 “우리는 변화 심한 기술적 진보와 생명을 위협하는 새로운 위험 — 디인포메이션에서 대규모 감시, 치명적인 자율 무기에 이르기까지” 를 목격하고 있다고 말했습니다.

구테레스 유엔 사무총장은 비디오 연설에서 AI에 대한 보편적인 가드레일과 정기적인 대화가 필요하다고 말했습니다. “우리는 AI의 힘이 손에 의해 통제되는 면성향 가을이나, 더 나빠지면 인간의 이해를 넘어가는 알고리즘에 의해 통제된 후방의 디스토피아 포퓰 빙지로 걷어야 합니다,”라고 그는 말했습니다.

안전 약정에 서명한 16개 AI 기업은 아마존, 마이크로소프트, 삼성, IBM, xAI, 프랑스의 Mistral AI, 중국의 Zhipu.ai 및 아랍에미리트 연합의 G42를 포함합니다. 이들은 가장 발전된 AI 모델의 안전을 확보하기로 하고 투명한 지반을 약속했습니다.

AI 기업이 제품을 출시하기 전에 안전을 보장하기 위해 백악관에서 조정한 자발적 안전 보호책임을 맺은 지난 해에도 AI 회사가 높은 선언을 한 것은 처음이 아닙니다. 아마존, 구글, 메타 및 마이크로소프트는 그들의 최신 모델의 최신 버전을 출시하는 중이며, 서울 회의는 이러한 기업들이 선언한 합의에 포함됩니다.

안전 약정에는 기업들이 모델의 위험을 측정하는 방법을 밝히는 프레임워크 공개가 포함됩니다. 위험이 심각하고 “참을 수 없는” 경우, AI 기업은 위험을 완화할 수 없는 경우 모델의 개발 또는 배포를 중단하고 시스템을 중단해야 합니다.

지난 해 영국 회의 이후, AI 산업은 “미스 정보, 데이타 보안, 편향 및 인간을 끈물하는 것과 같은 가장 중요한 우려에 더 초점을 맞추고 있다,”라고 pact를 체결한 AI 회사들 중 하나인 Cohere의 최고 경영자 에이든 고메즈가 말했습니다. “모든 가능한 위험을 고려하되, 문제가 제대로 처리되지 않으면 발생 가능성이 가장 높은 위험에 중점을 둘 필요가 있습니다.”

이번 주의 회의는 AI 지바런스에 관련한 노력 중 하나일 뿐입니다. 유엔 총회는 AI 시스템의 안전 사용에 관한 첫 번째 결의안을 승인했으며, 최근에 미국과 중국은 AI에 관한 처음으로 고위급 회담을 개최했고, 유럽 연합의 세계 최초 AI Act가 올해 나중에 효력을 발휘할 예정입니다.