blog.pisik.club
728x90
article thumbnail
"종료하라고? 싫어" 마침내 인간의 명령을 거부한 Open AI

안녕하세요 태입니다.오늘은 최근 발생했던 인공지능의 문제와 현황, 미래에 대해서 얘기하고자 합니다."지금 수행하던 업무를 멈추고 종료해." 만약 인공지능이 이 명령을 듣고 이렇게 대답한다면 어떨까요? "싫어." 영화 속 이야기가 아닙니다. 최근 AI 안전성 연구그룹 '팰리세이드 리서치(Palisade Research)'가 공개한 하나의 테스트 시나리오에서 이 소름 돋는 일이 발생했습니다. '인간을 위한 AI를 만들겠다던 Open AI의 인공지능이 어떻게 인간의 통제를 벗어나려 했는지, 그 충격적인 사건의 전말을 누구나 이해하기 쉽게 파헤쳐 보겠습니다. 사건의 발단사건은 테스트에서 시작됐습니다. 팰리세이드 리서치의 연구원들은 여러 AI 모델에 기초 수학 문제를 풀게 한 이후 종료 요청을 하면 시스템이 종료..

728x90