FTC, 딥페이크 방지를 위한 규칙 수정 모색

퀘이사존

딥페이크의 위협이 증가함에 따라 FTC는 기업이나 정부 기관의 사칭을 금지하는 기존 규정을 모든 소비자에게 적용하도록 수정하려고 합니다.

개정된 규정은 최종 문구와 FTC가 접수하는 대중의 의견에 따라 GenAI 플랫폼이 사칭을 통해 소비자에게 피해를 주는 데 사용되고 있음을 알고 있거나 알 만한 이유가 있는 상품이나 서비스를 제공하는 것을 불법으로 규정할 수도 있습니다.

“사기꾼들은 AI 도구를 사용하여 섬뜩할 정도로 정밀하고 훨씬 더 광범위한 규모로 개인을 사칭하고 있습니다.”라고 FTC 위원장인 리나 칸은 보도 자료에서 말했습니다. “음성 복제와 기타 AI 기반 사기가 증가함에 따라 사칭 사기로부터 미국인을 보호하는 것이 그 어느 때보다 중요해졌습니다. 우리가 제안한 최종 사칭 규정의 확장은 바로 그 역할을 할 것이며, 개인을 사칭하는 AI 기반 사기에 대처하기 위한 FTC의 툴킷을 강화할 것입니다.”

테일러 스위프트와 같은 사람들만 딥페이크에 대해 걱정해야 하는 것은 아닙니다. 딥페이크와 관련된 온라인 로맨스 사기가 증가하고 있습니다. 또한 사기범들은 직원을 사칭하여 기업으로부터 현금을 빼내기도 합니다.

YouGov의 최근 여론조사에서 미국인의 85%는 오해의 소지가 있는 비디오 및 오디오 딥페이크의 확산에 대해 매우 우려하거나 어느 정도 우려한다고 답했습니다. AP통신-NORC 공공문제연구센터의 별도 설문조사에 따르면 성인의 약 60%가 2024년 미국 대선 기간 동안 AI 도구가 허위 및 오해의 소지가 있는 정보의 확산을 증가시킬 것이라고 생각하는 것으로 나타났습니다.

지난 주, 인공적이고 미리 녹음된 메시지 스팸을 금지하는 기존 규정을 재해석하여 AI 음성 로보콜을 불법으로 만들려는 FCC의 움직임을 다뤘습니다. 뉴햄프셔 주 시민들의 투표를 막기 위해 딥페이크된 바이든 대통령을 사용한 전화 캠페인에 비추어 볼 때, 이 규칙 변경과 오늘 FTC의 조치는 현재 연방 정부가 딥페이크 및 딥페이크 기술에 맞서 싸우고 있는 정도를 보여주는 것입니다.

의회의 조치가 없는 상황에서 미국 내 10개 주에서 딥페이크 범죄를 처벌하는 법령을 제정했지만, 대부분 합의되지 않은 포르노입니다. 딥페이크 생성 도구가 점점 더 정교해짐에 따라 이러한 법이 더 다양한 딥페이크를 포괄하도록 개정되고 더 많은 주 차원의 법이 통과될 것으로 예상됩니다. (일례로, 미네소타주의 법은 이미 정치 캠페인에 사용되는 딥페이크에 대해 규제하고 있습니다.)

※ 퀘이사존 공식 기사가 아닌 해외 뉴스/기사를 번역한 것으로, 퀘이사존 견해와 주관은 포함되어 있지 않습니다.