미국 내과학회지에 보고된 사례
60세 남성이 소금 섭취량을 줄이기 위해 챗GPT의 의학조언대로 소금 대신 "브로민화 나트륨"이라는 걸 먹음
덕분에 브로미즘 중독을 일으켜 병원에 3주간 입원함
중독되면 망상, 환각, 피부 트러블등이 일어나는 증상이 나타남
브로민화 나트륨은 19~20세기에나 약으로 쓰였으나 지금은 수영장 소독제로 쓰이는 약임
OAI의 대변인은 최근 GPT5가 건강문답 정확도를 높였다고 발표했으나 전문가의 조언을 대체할 수 없다 덧붙이기도 함...
훔....
착한 특붕이는 아직은 챗GPT의 조언을 너무 맹신하지 말자고~
https://www.telegraph.co.uk/gift/3935ab68718a2471
시발 미친건가 ㅋㅋ
이거 3.5나 4에 물어본 거
@ㅇㅇ 환자는 염화물을 식단에서 제거하는 방법을 고민하던 중 ChatGPT 3.5 또는 4.0 버전에 상담했을 것으로 보인다. 안타깝게도, 우리는 환자의 ChatGPT 대화 기록에 접근할 수 없으며, 개별 응답은 이전 입력에 따라 달라지기 때문에 환자가 실제로 어떤 답변을 받았는지 확실히 알 수 없다.
@ㅇㅇ
https://www.acpjournals.org/doi/pdf/10.7326/aimcc.2024.1260?download=true
@ㅇㅇ 아마도 그 정보는 세척 등 다른 용도를 위한 것이었을 가능성이 높았다.
교차검증 왜 안했노 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
에헤이
자연사..
암살 씹;;
해당 댓글은 삭제되었습니다.
ㄹㅇ 너무 상황 설명이 부족한듯. 채팅 내역보면 사용자 탓일 확률이 높음
그걸 왜믿음 ㅋㅋㅋ
팩트체크해도 안좋은거라고 나오는데. 왜먹지
LLM탓 어이가없네
게이야 브라우저 번역기 뭐쓰길래 자1살이라고 번역하는거냐 ㅋㅋ 깜짝놀라서 보니까 입원이잖아
파파고 바꿀까 고민중
ㅅㅂㅋㅋ 본문이랑 똑같이 교차검증 안하노
입원을 살자로 번역 ㅅㅂㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
GIGO
이래서 돈을 더 받더라도 확실한 성능을 줘야하는 이유임 무지성 경량화때린 모델 싸게만 공급하면 저런일 계속일어난다
추론 모델 안 쓰고 비추론 멍청 모델 쓴 듯
그냥 새로운채팅시작해도 먹으면안된다고할텐데
이거보고 gpt5한테 나트륨 줄이는 용도로 먹어도되냐고 물어봤는데 절대먹지말라하던데?
이건 아무리 봐도 안아키 같은 신념 있는 새끼가 '그래도 먹어도 되지?' '먹는다고 무조건 죽는 건 아니지?' 계속 답정너짓 했던 거임
지금 니가 여기서 예측하는거랑 뭐가 다르노? ㅋㅋㅋ 기사에 그런 식으로 저사람이 했대?
동의함 애초애 저런 듣도보도 못한 내용이 일반적인 대화중에 나오지 않을거라봄 걍 챗지피티로 얻은 지식이 아니라 다른데서 얻은 정보로 답정너 더블체크했을 가능성이 큼
이게맞음윗윗댓은한심하다
겨울이다.... - dc App
입원 기간 보면 gpt5는 아니니 4o겠네 ㅋㅋ
케이스에 3.5나 4라고 나와 있음
지금 의사들 오진으로 뒤지는건 너무 흔해서 뉴스조차 안되는
이게 멍청하다고 끝날게아니라 세계평균임 교차검증없이 ai말을 그냥 믿는 사람들이 정말많음 관련 가이드나 교육 지도 편달이 없어서 그런다고봄 문제는 이제계속이런 불미스러운일들이 생길건데 각종규제들어오고 특이점방해요소가 늘어날거같아서 불안함 개인적의견임.. - dc App
우리가 평균 지능이 높아서 그래
애초에 저런걸 아무 생각없이 들을 정도의 판단력이면 질문분터 잘못됬을수도 있겠다
저거 gpt3.5였나 옛날 모델이었다고 본 것 같은데
난 gpt 4o한테 내 증상 얘기하고 걔가 추천해준영양제들 먹고 병 나았는데
???: 여기가...어디요?
입원한 걸 ㅅㅂ 바로 죽여뿌놐ㅋㅋ
제미니였으면 안죽었음 이새끼라면 절대 자기의지 안굽히고 넌틀렸어라고말했을거임