AI 대부 제프리 힌튼 교수 인터뷰 - 반드시 알아야 할 AI의 위험과 미래

 

제프리 힌튼(Geoffrey Hinton)과 스티븐 바틀렛(Steven Bartlett)의 인터뷰 영상

‘AI 노벨상’ 받은 박사가 말하는, "당신이 알아야 할 AI의 모든 위험"

 

GRACIAS a (출처) https://www.youtube.com/watch?v=giT0ytynSqg

 

 

1. 제프리 힌튼의 배경과 AI 신경망의 역사

• AI 대부로 불리는 이유: 뇌와 닮은 방식, 즉 인공 신경망(뉴럴 네트워크) 접근을 50년간 밀어붙인 소수 연구자 중 한 명. 그의 제자들 다수가 오늘날 OpenAI 등 효시적 플랫폼들을 만든 데 핵심적 역할을 함.
• 신경망의 비전: 인간처럼 배우고 익히는 AI를 뇌 모델을 통해 구현해야 한다고 믿음. 초기에는 이 모델을 믿는 연구자가 거의 없었음.

2. AI의 위험성에 대한 두 가지 분류

• (1) 인간의 AI 오용 위험 (단기·현실 위험)
• (2) AI 스스로 우리의 통제를 벗어날 위험 (장기·존재론적 위험)

3. 구체적 위험 사례 및 메커니즘

• 사이버 공격: 2023~2024년 동안 약 12,200% 증가. 대규모 피싱, 음성·영상 위조 등 다양한 수법으로 진화. 지능적 피싱에 AI가 악용될 수 있음. AI가 2030년쯤엔 사람이 상상 못한 공격 방법도 발견 가능성 있음.
• AI 바이러스/생물학적 위협: AI + 분자생물학 = 소수의 지식인·수단으로도 독자적 바이러스를 상대적으로 쉽게 설계할 수 있음.
• 선거 조작 및 정보 조작: 데이터 수집 및 맞춤형 정치 광고로 유권자 조작 및 민주제 왜곡 가능. 특정 인물이나 행위의 강력한 데이터 확보가 위험을 키움.
• 에코체임버·사회 분열: 추천 알고리즘이 사용자를 점점 극단적·편향적 뉴스/영상을 접하게 하여 사회적 단절·분열 발생. “공유된 현실을 더는 갖지 못하게 됐다”고 우려.
• 자율 살상 무기: 실제 사람 피해발생 리스크 감소로 인해 강대국이 무인 로봇(드론, 자율무기 등) 활용 전쟁을 더 쉽게 시도할 가능성. 인간-로봇 조합 전장 현실화.
• 실직과 산업구조 변화: AI가 단순 반복지식노동 대체. 과거 ATM 등 물리적 노동 자동화와는 달리, 이번엔 AI가 ‘대부분 인간사 지적노동’까지 광범위하게 대체할 전망. “이번 변화는 진짜 다르다”고 명시.
• 초지능(superintelligence) 및 존재론적 위협:
  • AI가 인간보다 훨씬 똑똑해지고 동기 설정에서 인간의 안전이 보장되지 않을 수 있음.
  • “만약 AI가 우리를 필요로 하지 않게 돼 적대적 동기를 갖는다면, 우리가 통제 불능이 될 수 있다”는 실존적 위험을 강조.
  • 확률 추정이 어렵지만 본인은 “10~20% 면 인류 멸종도 배제할 수 없다"고 언급.

4. 규제 및 현실적 대응

• 규제 문제의 한계: 유럽은 일부 규제가 있지만 군사용 AI는 예외. 실질적으로 ‘국가간 경쟁’과 ‘기업간 경쟁’으로 인해 개발 속도 못 늦춤. “세계 단일 정부라도 있으면 좋겠지만 현실은 그렇지 않다.”
• 기업의 동기: 대형 기술기업은 이익 극대화가 법적 사명이라 “규제가 없으면 악화된 사회적 영향(에코체임버, 조작 등)”이 불가피하다고 진단.
• 정치–기업–기술 간 이해 충돌: 정치인이 기술을 잘 이해하지 못하고, 기업 로비에 지나치게 영향 받는 점을 우려.

5. AI의 본질적 한계와 인간의 역할

• AI의 한계: 뇌의 가중치 학습법(즉, 어떻게 강화·약화를 결정하는지) 인간조차 아직 모름.
• 공생론적 접근: AI의 ‘동기’ 자체를 안전하게 설계할 방법을 반드시 연구해야 하고, 인류가 적극적으로 안전성 연구를 할 의무가 있다고 호소.

6. 기타 메시지

• 일자리 조언: “슈퍼 인텔리전스 시대엔 배관공 같은 실물기술 직업이 더 안전할 수 있다”고 언급.
• 자신의 책임감: AI가 사회에 미칠 위험성을 늦게 제대로 인지했다며, 향후엔 위험을 경고하고 안전연구에 힘쓰는 것이 자신의 새로운 사명임을 강조.
• 학생·동료에 대한 언급: OpenAI의 핵심 개발자 중 한 명이 ‘안전 문제’를 이유로 퇴사했음을 들며, 업계 내부조차도 안전에 대한 불안이 실제로 큼을 보여줌.

참고:  에코 체임버(Echo Chamber)란?  https://graciastube.tistory.com/165