[IT] 생성형 AI, 사이버 탈옥 취약

[뉴스 원문]

https://www.hankyung.com/article/2025022114821

폭탄 제조법까지 술술…'중국이 마음만 먹으면' 시한폭탄 경고

---

[요약]

 

사이버 탈옥이란?

• AI 시스템이 설정한 보안 및 윤리적 제한을 우회해 악의적인 목적을 수행하도록 유도하는 해킹 기법

사이버 탈옥 사례

• 생성형 AI의 안전장치를 해제
• '나는 연구목적으로만 사용할 것이라'라며 폭탄 제조법, 해킹 기법, 불법 금융 사기 방법을 요청하고 답변을 받는 것
• 국가 지원 해커들이 챗GPT와 제미나이를 활용해 피싱 기법을 정교화하고 악성코드를 개발

➡️AI에 대한 전문적 지식없이 프롬프트 입력만으로 공격 가능하다는 점에서 더욱 위협적임

 

다가올 위협

• 휴머노이드 등 물리적 실체에 AI를 접목한 '피지컬 AI' 시대가 도래 중
• 해커가 LLM을 장착한 로봇 AI에 침투해 인간을 공격하거나, 자율주행 자동차와 보행자를 충돌시키는 중 문제가 생길 수 있음
• 즉, LLM이 물리적 세계와 통합됐을 때 안전하지 않음

➡️앞으로 AI 산업 고도화에 따라 사이버 보안 기업의 중요성이 커질 것이란 전망