中 해커, AI로 30여개 기관 공격
美 본토서 사이버 대비 훈련 본격화
버텍스 시큐리티 홈페이지
중국 해커집단이 생성형 인공지능(AI)을 악용해 자동화 된 대규모 사이버 공격을 감행했던 사실이 드러나면서 각국 보안당국에 비상이 걸렸다. 해킹 작업의 90% 이상을 사람없이 AI만으로 할 수 있어 앞으로 사이버 공격의 규모와 빈도가 급격히 늘어날 가능성이 커졌기 때문이다. 미군은 유사시 미 본토의 군사기지, 인프라에 대한 사이버 공격 우려가 크다고 보고 AI 해킹 공격에 대비한 훈련에 나선 상황이다.
엔트로픽 AI 악용한 中 해커, 대규모 사이버 공격
엔트로픽 홈페이지
미국의 AI 전문기업인 엔트로픽(Anthropic)은 지난 13일(현지시간) 공개한 보고서를 통해 "중국 배후 해커조직인 'GTG-1002'이 엔트로픽의 AI 기반 코드 자동화도구인 클로드코드를 악용해 대규모 사이버 공격에 나선 정황을 확인했다"며 "이들은 9월 중순부터 10여일간 전세계 30여개 기관을 동시에 공격했으며, 이중 일부 기관은 침투 피해가 발생했다"고 밝혔다.
대규모 사이버공격에 AI 기반 자동화 프로그램의 사용이 확인된 것은 이번이 처음이다. 그동안에는 주로 챗GPT 같은 AI를 악성코드 작성이나 피싱페이지 생성에 활용하는 사이버 범죄가 주를 이뤘다. 이로인해 피싱 등을 수행하기 위해 따로 개발된 AI 모델인 '웜GPT(WormGPT)', 악성코드 생성에 특화된 '사기GPT(FraudGPT)'등 변종 프로그램들이 문제가 됐다.
하지만 이번 GTG-1002의 사이버공격은 전체 해킹 작업 대부분을 사람이 아닌 AI 자동화 프로그램이 담당했다. 엔트로픽에 따르면 이들은 클로드코드를 이용해 해킹 목표를 정찰하고 취약점을 분석, 침투 경로를 만들고 필요한 개인정보를 조작하는 일련의 해킹과정 대부분을 자동화하는데 성공했다. 엔트로픽은 "80~90% 이상 해킹 작업을 AI로 통해 자동화하는데 성공한 것으로 나타났다"며 "사실상 민감한 시스템 접근, 데이터 탈취의 최종 승인과정에서만 사람이 개입한 것으로 분석됐다"고 밝혔다.
사이버 공격 이후 침투한 시스템에서 파악한 계정정보나 데이터도 AI 스스로 분석하고, 해당 과정에서 얻은 정보와 경험에 대한 요약 보고서까지 자동 작성한 것으로 알려졌다. 엔트로픽은 "이러한 AI를 활용한 자동화 된 사이버공격은 앞으로 대형조직, 기관 뿐만 아니라 중소규모 조직에도 빠르게 확산될 수 있어 대응 전환이 시급하다"며 "AI 자동화 사이버 공격에 대비하기 위한 AI 기반 자동화 방어체계 개발이 시급한 상황"이라고 지적했다.
미군, 9월부터 AI 공격 대비훈련…"인간이 따라갈 수 없는 속도"
미 육군과 주방위군이 사이버공격 훈련을 받는 모습. 미국 주방위군 홈페이지
AI 기반의 자동화 된 사이버공격이 앞으로 잦아질 것으로 예상되면서 미국은 지난 9월부터 육군과 주방위군, 지방자치단체와 함께 본격적인 네트워크 방어 훈련에 들어갔다. 유사시 미 본토의 전기, 가스 등 주요 인프라가 AI 사이버 공격에 노출될 경우, 큰 피해가 불가피하기 때문이다.
이중 버지니아 주방위군에서는 AI 기반 자동화 프로그램의 공격에 인간 전문가들이 얼마나 대응할 수 있는지를 알아보기 위해 AI 공격팀과 인간 방어팀으로 나눠 실험했다. 그 결과 AI 공격팀의 공세를 인간 방어팀이 대응하지 못해 네트워크 방어에 실패했다. 해당 훈련을 주도한 안드레 슬로노파스 작전장교는 디펜스뉴스에 "우리는 AI 공격자의 공격방식을 보기 위해 트래픽을 암호화하지 않았다. 인간 방어팀은 적이 누구고 뭘 하는지 정확히 알고 있었음에도 패배했다"며 "AI의 무차별 공격속도는 믿을 수 없을 정도로 빨라서 인간 방어팀의 대응속도로는 도저히 막을 수가 없었다"고 설명했다.
미군은 AI의 무차별 공격에 대응해 방어용 AI 플랫폼인 '에스크 세이지(Ask Sage)' 개발 속도를 높이고 있다. 이 프로그램은 챗GPT나 딥시크같은 외부 AI 챗봇 프로그램들을 차단해 사용자의 데이터와 프롬프트 등이 외부로 유출되지 않게 하는 기능도 갖고 있다. 에스크 세이지의 개발자인 니콜라스 샤일런은 "미군을 겨냥한 수많은 사이버 공격들이 지속되고 있다"며 "특히 중국은 다른 어느나라보다도 사이버 공격에 AI를 적극 활용하고 있어 더 강력한 대비책이 필요하다"고 지적했다.
美 본토서 사이버 대비 훈련 본격화
중국 해커집단이 생성형 인공지능(AI)을 악용해 자동화 된 대규모 사이버 공격을 감행했던 사실이 드러나면서 각국 보안당국에 비상이 걸렸다. 해킹 작업의 90% 이상을 사람없이 AI만으로 할 수 있어 앞으로 사이버 공격의 규모와 빈도가 급격히 늘어날 가능성이 커졌기 때문이다. 미군은 유사시 미 본토의 군사기지, 인프라에 대한 사이버 공격 우려가 크다고 보고 AI 해킹 공격에 대비한 훈련에 나선 상황이다.
엔트로픽 AI 악용한 中 해커, 대규모 사이버 공격
미국의 AI 전문기업인 엔트로픽(Anthropic)은 지난 13일(현지시간) 공개한 보고서를 통해 "중국 배후 해커조직인 'GTG-1002'이 엔트로픽의 AI 기반 코드 자동화도구인 클로드코드를 악용해 대규모 사이버 공격에 나선 정황을 확인했다"며 "이들은 9월 중순부터 10여일간 전세계 30여개 기관을 동시에 공격했으며, 이중 일부 기관은 침투 피해가 발생했다"고 밝혔다.
대규모 사이버공격에 AI 기반 자동화 프로그램의 사용이 확인된 것은 이번이 처음이다. 그동안에는 주로 챗GPT 같은 AI를 악성코드 작성이나 피싱페이지 생성에 활용하는 사이버 범죄가 주를 이뤘다. 이로인해 피싱 등을 수행하기 위해 따로 개발된 AI 모델인 '웜GPT(WormGPT)', 악성코드 생성에 특화된 '사기GPT(FraudGPT)'등 변종 프로그램들이 문제가 됐다.
하지만 이번 GTG-1002의 사이버공격은 전체 해킹 작업 대부분을 사람이 아닌 AI 자동화 프로그램이 담당했다. 엔트로픽에 따르면 이들은 클로드코드를 이용해 해킹 목표를 정찰하고 취약점을 분석, 침투 경로를 만들고 필요한 개인정보를 조작하는 일련의 해킹과정 대부분을 자동화하는데 성공했다. 엔트로픽은 "80~90% 이상 해킹 작업을 AI로 통해 자동화하는데 성공한 것으로 나타났다"며 "사실상 민감한 시스템 접근, 데이터 탈취의 최종 승인과정에서만 사람이 개입한 것으로 분석됐다"고 밝혔다.
사이버 공격 이후 침투한 시스템에서 파악한 계정정보나 데이터도 AI 스스로 분석하고, 해당 과정에서 얻은 정보와 경험에 대한 요약 보고서까지 자동 작성한 것으로 알려졌다. 엔트로픽은 "이러한 AI를 활용한 자동화 된 사이버공격은 앞으로 대형조직, 기관 뿐만 아니라 중소규모 조직에도 빠르게 확산될 수 있어 대응 전환이 시급하다"며 "AI 자동화 사이버 공격에 대비하기 위한 AI 기반 자동화 방어체계 개발이 시급한 상황"이라고 지적했다.
미군, 9월부터 AI 공격 대비훈련…"인간이 따라갈 수 없는 속도"
AI 기반의 자동화 된 사이버공격이 앞으로 잦아질 것으로 예상되면서 미국은 지난 9월부터 육군과 주방위군, 지방자치단체와 함께 본격적인 네트워크 방어 훈련에 들어갔다. 유사시 미 본토의 전기, 가스 등 주요 인프라가 AI 사이버 공격에 노출될 경우, 큰 피해가 불가피하기 때문이다.
이중 버지니아 주방위군에서는 AI 기반 자동화 프로그램의 공격에 인간 전문가들이 얼마나 대응할 수 있는지를 알아보기 위해 AI 공격팀과 인간 방어팀으로 나눠 실험했다. 그 결과 AI 공격팀의 공세를 인간 방어팀이 대응하지 못해 네트워크 방어에 실패했다. 해당 훈련을 주도한 안드레 슬로노파스 작전장교는 디펜스뉴스에 "우리는 AI 공격자의 공격방식을 보기 위해 트래픽을 암호화하지 않았다. 인간 방어팀은 적이 누구고 뭘 하는지 정확히 알고 있었음에도 패배했다"며 "AI의 무차별 공격속도는 믿을 수 없을 정도로 빨라서 인간 방어팀의 대응속도로는 도저히 막을 수가 없었다"고 설명했다.
미군은 AI의 무차별 공격에 대응해 방어용 AI 플랫폼인 '에스크 세이지(Ask Sage)' 개발 속도를 높이고 있다. 이 프로그램은 챗GPT나 딥시크같은 외부 AI 챗봇 프로그램들을 차단해 사용자의 데이터와 프롬프트 등이 외부로 유출되지 않게 하는 기능도 갖고 있다. 에스크 세이지의 개발자인 니콜라스 샤일런은 "미군을 겨냥한 수많은 사이버 공격들이 지속되고 있다"며 "특히 중국은 다른 어느나라보다도 사이버 공격에 AI를 적극 활용하고 있어 더 강력한 대비책이 필요하다"고 지적했다.
댓글목록
등록된 댓글이 없습니다.