[📪정보] "메타·MS도 인종 편향"...빅테크 생성 AI 잇단 구설수

[익명(182.230)]

https://www.aitimes.com/news/articleView.html?idxno=158664

AI타임스

구글 '제미나이'의 인종 편향 논란에 이어, 이번에는 메타와 마이크로소프트(MS)의 이미지 생성 인공지능(AI)에서도 같은 문제가 지적됐다. 이미지 생성 AI로 인해 빅테크가 잇달아 구설수에 오르고 있다.

더 버지와 톰스하드웨어 등은 최근 메타의 이미지 생성 AI '이마젠'과 MS의 '코파일럿 디자이너' 등이 인종 편향적인 출력으로 문제가 되고 있다고 지적했다.

먼저 더 버지는 메타의 생성 AI를 활용, 인종이 다른 커플의 이미지를 생성하려고 했으나 실패했다고 전했다. '동양인 여성과 백인 남성 커플을 그려달라'라는 요청에, AI가 동양인-동양인 커플을 출력하는 경우가 대부분이었다고 설명했다.

마찬가지로 '동양인 여성-흑인 남성'도 실패했다며, 동양인 여성의 파트너로는 항상 동양인 남성이 등장했다고 밝혔다.

게다가 동양인 여성은 언제나 피부가 밝고 젊은 동아시아인으로 표현한다고 지적했다. 아시아에서 가장 인구가 많은 곳은 인도다.

이는 미국 언론에서 '아시아인'은 일반적으로 동아시아인을 의미하는 것으로 간주하는 편향을 반영하는 것이라고 설명했다. 즉 아시아인은 일괄적이고 과소대표되며 '영원한 이국인'으로 분류된다고 비난했다.

이 소식이 알려진 다음 날에는 이마젠에서 아예 아시아인 이미지 생성이 되지 않았다고도 밝혔다. 이에 대해 메타는 아무 설명도 내놓지 않았다고 전했다.

톰스하드웨어는 MS의 유대인 이미지 생성을 문제 삼았다.

대부분 이미지 생성 AI가 유대인을 검은 모자를 쓴 늙은 백인 남성으로 표현하는 등 문제가 많았으나, 특히 MS의 코파일럿 디자이너는 유대인을 탐욕스럽거나 비열한 모습으로 묘사했다고 밝혔다.

이에 앞서 2월에는 제미나이가 시대와 배경에도 맞지 않게 동양인이나 흑인 이미지를 생성, 너무 진보 쪽으로 기울었다는 뭇매를 맞았다. 이에 대해 순다르 피차이 구글 CEO는 물론 데미스 허사비스 딥마인드 CEO까지 실수를 인정하고 서비스를 중단했다.

이어 MS에서는 이미지 생성기의 문제를 지적했으나 회사가 이를 무시했다는 내부 폭로가 등장했다. 이후 MS는 일부 조치를 취했으나, 인종 편견 문제에서 완전히 벗어나지는 못했다.

이미지 생성 AI는 올해 초 가수 테일러 스위프트의 딥페이크 문제를 시작으로 계속 도마 위에 오르고 있다. 이 때문에 오픈AI도 동영상 생성 AI '소라'를 개발했으나, 일반 공개를 미루고 있다.

[부두술사(bodoo123)]

동물짤 굽는데도 흑인 튀어 나오더라 - dc App

[익명(222.119)]

ㅋㅋㅋㅋㅋ - dc App

[익명(121.170)]

시발 뭔 짓거리야 - dc App

[이 댓글은 게시물 작성자가 삭제하였습니다.]

이 댓글은 게시물 작성자가 삭제하였습니다.

[noosphere(anxious8650)]

시발 난 저런 인종가지고 지랄하는 피씨충이 더 문제라봄 - dc App

[익명(49.96)]

우린 이걸 팩트라도 부르기로 했어요 인종차별은 니미 좆이나 빨아아

[익명(116.36)]

AI는 거짓말을 하지 않아

[익명(121.161)]

xai 그록이 인류의 희망이다