[📪정보] MITTR, 2024년 가장 큰 AI 실패 사례들

[슈퍼130클럽(y3xxqs89b55t)]

1. 저품질 AI 생성물들이 인터넷에 구석구석 퍼져 버림 (기사에선 AI slop 이라 함)

생성 AI로 뭐든지 생성하는게 너무 쉽다보니 이메일, 광고, 기사, 소셜 등등 너무 많은곳에 쉽게 퍼져 버림

광고 수익을 목적으로 하는게 많다 보니 감정적으로 자극적인 생성물을 많이 만들어 냄(부상당한 참전용사, 우는 아이, 이-팔 전쟁 지지 표명 등)

보통 AI 모델들은 인터넷 데이터를 긁어서 훈련하는데 이 AI 쓰레기들 때문에 미래 AI 모델 성능 저하까지 우려되는 중임

2. AI 예술은 실제에 대한 우리의 기대까지 왜곡하는 중임

한 실제 사례로 AI를 활용한 이미지로 인터넷에 광고 했던 찰리와 초콜릿 공장 체험현장이 실제 가보니 기대에 비해 형편없는 곳이었던 사례가 있음

사람들은 광고만 보고 자녀를 데리고 줄까시 서서 기다릴 정도였지만 들어가보고 바로 사기라 생각하고 분노 했다 함

참고로 이거임

3. 그록을 사용하면 거의 모든 시나리오 이미지를 만들 수 있음

보통 AI들은 검열을 통해 생성 할 수 없는것과 생성 할 수 있는 것을 구분해 주지만(폭력적인, 성적인, 지적 재산권 침해, 타인의 권리 침해 등등 기준으로)

그록은 머스크가 'woke AI'라 불리는것을 거부하여 이러한 모든 원칙을 무시함

그래서 그록은 이런 폭력, 테러, 저작권 침해, 유명인 도용 등등 마음것 생성이 가능함

이러한 그록의 행태는 다른 AI회사들이 가드레일을 만드려는 노력을 약화 시킴

4. 테일러 스위프트의 성적인 딥페이크가 온라인에 유포됌

1월에 테일러 스위프트의 비동의 딥페이크 누드가 X와 페이스북 등등에 유포 됌

마소의 AI '디자이너' 를 속여 만듬

마소는 빠르게 헛점을 차단 했지만 딥페이크 포르노에 맞서 싸우는데 얼마나 무력한지 보여준 사례임

앞으로 워터마크와 데이터 포이즈닝 툴 같은 변화를 위한 도구를 더 널리 채택해야 함

(내의견 아니고 기사에 나오는 그대로 쓰는거임)

5. 비즈니스 챗봇들이 엉망이 되는 중

AI가 보급되고 기업들은 앞다퉈 AI도구를 채택하려 하지만 이 챗봇들이 항상 정확한 정보를 제공하지 못한다는게 문제임

한 사례로 에어캐나다에선 AI가 고객에게 존재하지 않는 유가족 환불 정책을 따르라고 조언해 버림

또 다른 사례는 배달 회사 DPD의 봇이 별다른 이유도 없이 욕설을 하고 자신이 쓸모 없다 말하고

뉴욕시민에게 도시정부에 대한 정보를 제공하기 위한 봇은 법을 어기는 법을 알려주는 사례도 있음

6. AI 가젯은 시장 활성화를 못하고 있음

AI pin, Rabbit R1 등과 같은 개인 비서 장치인 AI 가젯들은 비판적 리뷰와 다수의 버그, 속도가 느리다는 보고가 잇따른 후 비슷한 운명을 겪음

참고로 이거

ㅋㅋㅋ

7. AI 검색 요약이 자꾸 잘못된 검색 결과를 줌

구글에 검색하면 상단에 AI 생성 응답을 주는 AI 오버뷰 기능이 "피자에 접착제를 바르거나 돌맹일르 먹어본적 있나요?" 같은 이상한 답변을 줌

이건 AI가 정확한 뉴스기사와 레딧에 올라오는 농담을 구분하는 기능이 없기 때문이라 함

이런 기능은 심각한 결과를 초래할 수도 있는데 최근 한 사례로 아이폰 AI 사례가 있음(아마 애플 인텔리젼스?)

앱 알림을 그룹화 하고 내용을 요약하는 아이폰의 기능이 최근 거짓 BBC 뉴스 헤드라인을 생성했는데 의료보험 CEO 브라이언 톰슨을 살해한 루이지 만지오네가 자살했다고 거짓말을 생성한거임

또 이스라엘 총리 네타냐후가 체포되었다는 거짓말도 함

이러한 오류는 잘못된 정보를 퍼트리고 뉴스 기관에 대한 신뢰를 훼손할 수 있다고...

흠

요약

1. 저품질 AI 생성물이 인터넷에 너무 많이 퍼진다(쓰레기 데이터로 인한 AI훈련 성능저하, 자극적 광고 우려)

2. AI 생성물로 인한 사기, 과장광고때문에 실제에 대한 기대까지 왜곡중(찰리와 초콜릿 공장 체험현장 사기)

3. 그록AI 검열 없어서 타인 권리 침해, (성)폭력 등등 우려된다. 머스크 때문에 타 회사들도 그럴까봐 우려

4. 테일러 스위프트 누드 딥페 유포됐자너? 워터마크, 데이터 포이즈닝 툴 같은 방지책 더 널리 채택 해야겠지?

5. 기업이 채택하는 AI 챗봇들이 자꾸 잘못된 정보를 줌, 심지어 범죄적인 것, 비윤리적인 것도

6. AI핀, 래빗R1 같은 AI 가젯들 쓰레기라 폭망함

7. 구글에서 제공하는 검색 요약 기능 AI 오버뷰, 아이폰 AI와 같은 기능들이 자꾸 이상한 정보를 줌(보험회사 사장 살해범 자살소식, 이스라엘 총리 네타냐후 체포)

https://www.technologyreview.com/2024/12/31/1109612/biggest-worst-ai-artificial-intelligence-flops-fails-2024/

The biggest AI flops of 2024

[이세이미야케(jkwarawara)]

1번 ㄹㅇ 심함. 구글 못써먹겠음 진짜로

[아스타리온(attempt1316)]

근데 1번 역이용하면 자극적인것만 공장식으로 만들어내는 숏츠채널들 거를수있음 걔네는 AI일러 퀄리티랑 그림체 신경안쓰고 막 깎아서

[ㅇㅋ(ijh2005)]

진짜로 구조조정 해야되는 대상들이긴하지 저것들 ㅇㅇ 쟤네는 ㄹㅇ로 AI버블 소리나오게 만드는 주범들임

[익명(121.161)]

앞으로 5년뒤에는 좀 더 엄격한 신원인증 시스템이 도입 될 것 같음

[Gelehrter(elderly2080)]

[디시콘발사대(fcbjsjmu1t9f)]

어떻게든 태클 넣으려는 놈들은 틈만 나면 워터마크 워터마크 이러는데 솔까말 악의를 품은 사람이 로컬 툴 써서 그거 하나 못 없앨까 싶음

[익명(landofooo)]

ㄹㅇ

[익명(125.128)]

AI 모델 수준이 더 올라오면 자연스럽게 해결됨

[익명(220.81)]

수준높은 ai로 더 그럴듯하게 가짜뉴스 만들기 시작하면 구분하기 더 어려워질수도 있지

[천재까마귀(ztnp9v9lnt31)]

기사사진 역따봉 육손이

[익명(182.218)]

딱 1년전에 송혜교랑 조인성 얼굴, 목소리 AI로 만들어서 투자 사기친 업체도 있더만

[익명(landofooo)]

솔직히 아직 퀄도 낮고 하드웨어 수준도 더 올려야하는데 못따라가고 있음

[익명(180.224)]

제일 문제인건 저런 쓰레기 ai데이터를 이제 ai가 학습하게 될 여지가 있다는거

[익명(1.249)]

그만큼 정렬이 중요하다는거지