Google, Gemini AI 이미지 생성에 어떤 문제가 있었는지 설명

    Google은 이번 주에 Gemini의 인물 이미지 생성을 일시 중지하게 된 원인에 대한 자세한 정보를 공유하고 있습니다.

    이번 주 초, AI 모델 개발을 총괄하는 Google 제품 시니어 디렉터 Jack Krawczyk는 Gemini 팀이 역사적으로 정확한 결과를 제공하기 위해 모델을 조정하는 중이라는 글을 X에 올렸습니다.

    이 게시물은 Gemini가 존재하지 않았을 가능성이 높은 사진에 다른 인종의 사람들을 묘사한 역사적 이미지를 생성하는 것에 대해 많은 사용자가 불만을 제기한 후 작성되었습니다. 예를 들어, Gemini는 아프리카계 미국인인 건국의 아버지와 1820년대 독일인 부부를 대표하는 이미지로 아메리카 원주민 남성과 인디언 여성의 사진을 제공했습니다.

    이 수정은 원래 팀이 생각했던 것보다 조금 더 복잡한 것으로 밝혀졌고, 목요일 이른 아침 Google은 이 도구로 사람의 이미지를 생성하는 기능을 비활성화 했습니다.

    금요일 블로그 게시물에서 Google 수석 부사장 Prabhakar Raghavan은 Gemini의 문제점에 대해 좀 더 자세히 설명했습니다. 특히, Raghavan은 “Gemini가 사람들의 범위를 표시하도록 조정하는 과정에서 범위를 표시해서는 안 되는 경우를 고려하지 못했습니다.”라고 말했습니다. 그는 또한 “시간이 지남에 따라 모델이 의도했던 것보다 훨씬 더 조심스러워져 특정 프롬프트에 대한 답변을 아예 거부하는 등 매우 무감각한 프롬프트를 민감한 것으로 잘못 해석했다”고 말했습니다.

    즉, Gemini는 다양한 인종을 보여주도록 훈련 받았지만, 그것이 적절하지 않을 때가 있다는 것을 몰랐던 것입니다. 또한 무엇이 부적절할 수 있는지에 대한 해석도 의도한 것과는 달랐습니다.~중략

    ※ 더 자세한 정보는 원문을 참조해주세요.

※ 퀘이사존 공식 기사가 아닌 해외 뉴스/기사를 번역한 것으로, 퀘이사존 견해와 주관은 포함되어 있지 않습니다.