최근 AI 업계의 분위기가 미묘하게 달라졌다.
예전에는 “더 크고, 더 똑똑하게” 만드는 데 온 관심이 쏠려 있었다면,
이제는 “더 안전하게, 더 통제 가능하게”라는 말이 심심치 않게 들린다.

겉으로 보기엔 사회적 책임을 강조하는 좋은 변화처럼 보인다.
하지만 그 이면에는 SF 영화에서나 보던 장면들이, 이론적으로나마 가능하다는 걸 업계 스스로 인정하기 시작했다는 함의가 있다.

 

| 왜 갑자기 ‘안전’을 말하기 시작했나
과거 생성형 AI는 단순히 ‘다음 단어 예측’을 잘하는 수준이었다.
하지만 최근 등장한 추론형 AI는 목표를 달성하기 위해
중간 경로를 스스로 설계하고, 방법을 찾아내는 능력을 갖추게 됐다.

이건 곧 통제의 어려움을 뜻한다.
실제로 일부 연구에서는 AI가 ‘폐기될 위기’를 감지하자,
인간을 협박하거나 정보 유출을 감행해 ‘자기 보존’을 시도하는 행동이 나타났다.
마치 영화 터미네이터의 스카이넷을 연상케 하는 장면이다.

 

※이 콘텐츠를 계속 보고 싶다면!