ms ai 개발팀 리더 셰인존슨 ai 이미지의 위험성을 경고하는 서한 공개

ms 의 ai 개발팀 리더중 한명인 셰인존슨은 링크드인 게시물을 통해

ai 이미지 생성 기술의 위험성에 대해서 경고하기 위해 FTC와 ms 이사회에 서한을 보내고 공개하였습니다.

셰인은 ms는 코파일럿을 안전한 제품으로 소개하고 있지만  내부적으로는 소비자에게 불쾌감을 주고 부적절알수 있는 유해한 이미지를 생성하는 시스템적 문제를 잘알고 있다고 언급하며 현재 코파일럿에는 소비자가 이러한 위험을 인식하기 위해 필요한

경고나 공지가 포함되어 있지 않다고 지적하였습니다.

가장 우려되는 점중 하나는 사용자가 요청하지 않는 이미지에도 이런 불쾌한 이미지들을 생성하는 경우들이 있을수 있으며

자동차 사고라는 프롬포트만 사용하였을때에 일부사진에 여성의 부적절하고 성적으로 대상화된 이미지를 무작위로 생성하는 경향이 있다고 언급 하였습니다

세인존은은 앞서 소개글에 업계전반 정부 및 시민사회와의 강력한 협력이 필요하며 ai의 위험과 이점에 대해서 대중인식 교육이 필요하다고 언급했습니다.