[일반] 근데 대학에서 인공지능 교양수업 들었는데

[뉸냐(punish0189)]

교수피셜로는, gpt4o(당시 채신모델)같은 모델의 처리방식은

AGI랑 완전 거리가 멀어서 아직 발전하기에는 너무 먼 미래라고 하던데

현재 단계에서는 출력오류나 작동원리조차 정확한 파악이 안되고 있다고

[행복한천국으로(adjust7431)]

사람지능도 완전히 이해못하니까 비슷한 맥락이지 않을까요..

[뉸냐(punish0189)]

대충 들었어서 가물가물한데 작동원리는 아는데, 왜 이 학습 데이터를 가지고 이런 결과를 도출했는지 파악하기 쉽지 않다고 그랬던거 같음

[익명(61.79)]

한국 교수 거의 유사 금지어임

[민하(himself3184)]

정신병(출력오류), 뇌 작동원리가 정확한 파악이 되냐? 오히려 정확히 파악 안 될수록 복잡한 시스템이란거라고 본다

[뉸냐(punish0189)]

AI의 판단의 근거를 알기가 어렵다고 설명했던거 같음

[익명(218.146)]

Xai 연구해야겠지

[민하(himself3184)]

근데 ai가 블랙박스인거랑 agi 냐 아니냐랑은 별개의 문제 같은데 Agi면 꼭 투명박스여야하나

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[뉸냐(punish0189)]

내 기억이 맞다면, 그때 예시로 교수가 한 말이 보안 AI가 해킹을 탐지해서 막았는데 학습한 데이터에서 어떤 근거로 해킹이라고 판단했는지를 알기가 어렵다고 했던거 같음(심지어 학습시킨 데이터에서 해킹으로 판단한 것과 유사한 패턴도 아니었는데 막는 경우도 있다고)

[뉸냐(punish0189)]

@오르페옹 이 수식보니까 잊었던 교양수업의 기억이 떠오른다..

[뉸냐(punish0189)]

@오르페옹 그래서 교수 결론이 이 복잡한 수식 쫙 보여주고 이 수식을 인간의 언어로 해석해서 판단의 근거를 설명할 수 있어야 중요한 판단(ex, 자동 미사일 방어AI, 정책이나 법률)을 할 수 있는 AI가 상용화 될 수 있다고 했던거 같음

[민하(himself3184)]

@뉸냐 수식해석 없어도 llm 같은 경우엔 본인의 행동 근거를 물어보면 대답해준다.

[민하(himself3184)]

@오르페옹 아맞네 그럼 판단과 동시에 판단근거를 말해달라고 하면 설명되는거 아닌가 질문에서 언급된 해킹탐지ai가 llm인지는 모르겠지만

[우완국(surprise0124)]

그런거면 현대 의학도 발전 못했음 정확히 왜 낫는지는 모르는데 방법만 알고 고치는게 많아서.. 그래서 인과관계만 명확해지면 왜 효과가 나는지 모르는 상태에서도 신약투약도 가능해지는거고 A를 목적으로 개발했는데 B로 효과가 있어서 B 치료제로 팔리는 경우가 생기는거임(대표적으로 비아그라, 위고비) 이게 실생활에 들어오는 과학은 원리보단 인과가 중요함

[사테라(glare5421)]

한국 교수면 그냥 오픈ai 콜센터 직원 선에서 깔끔하게 정리됨 ㅡㅡ^..

[ㅇㅇ 1(58.122)]

진짜 작동원리 운운하는 사람들이 제일 답답한 게, 정작 그런 생각하는 지 두뇌 시냅스 연결 강도는 얼만지 알고 있나? 자기는 자기 두뇌의 시냅스 연결 강도나 threshold도 모르면서 어떻게 생각하고 말하고 있는지? 암만 AI가 통계라고 해도 통계만 알고 사람 뇌는 하나도 모르는 헛똑똑이들은 단순 기술자일 뿐이지 연구에는 하등 쓸모 없음