ChatGPT가 사이버 보안에 혁명을 일으킬 수 있습니까?

efks-stock.adobe.com

기계 학습(ML)과 함께 인공 지능(AI)은 많은 사이버 보안 과제에 대한 답과 모든 훌륭한 묵시록 공상 과학 영화와 책에서 제시하는 디스토피아적인 미래를 모두 나타냅니다.

차세대 기술과 기술에 대한 보다 발전되고 자동화된 접근 방식을 포지셔닝하는 방법으로 많은 공급업체 슬라이드 데크에 AI를 포함하는 것을 넘어 이제는 개념으로서 점점 주류가 되고 있습니다. 2022년 말, 대화를 통해 질문에 답하고, 대화에 참여하고, 자세한 응답을 제공할 수 있는 OpenAI 플랫폼의 일부인 ChatGPT가 출시되면서 완전히 새로운 방식으로 대중의 인식이 무너졌습니다.

영광스러운 Google 검색어에서 한 단계 더 발전하면 실제로 원본 자료를 최전선에서 읽을 필요 없이 에세이 응답을 빠르게 추적하려는 학생들과 유사하게 채점을 자동화하려는 교사들이 뒤따르게 되면서 상상력이 자극되었습니다.

도움을 받거나 막연하게 복잡한 질문에 대한 답변을 얻으려고 할 때 웹사이트 챗봇 때문에 어려움을 겪은 사람이라면 누구나 컴퓨터와 대화할 때 더 긍정적인 결과를 얻을 수 있다는 희망을 보았습니다. 의심의 여지 없이 AI는 날씨 예측에서 우주 로켓에 이르기까지 시스템에 전력을 공급하는 신비한 블랙박스가 아니라 개인으로서 일상적으로 기술에 참여하는 방식에 영향을 미칠 수 있는 잠재력의 세계를 열었습니다.

필연적으로 사이버 보안에 대한 잠재적 영향은 양측 모두에서 빠르게 주요 대화 주제가 됩니다. 공격자에게는 기본적이고 어린아이 같은 피싱 텍스트를 보다 전문적인 구조로 즉시 변환할 수 있는 기회가 있었고, 랜섬웨어 함정에서 탈출하려는 여러 잠재적 피해자와의 참여를 자동화할 수 있는 기회도 있었습니다.

방어자에게 이것이 코드 검증이나 피싱 교육 개선과 같은 프로세스를 혁신할 수 있는 기회를 제공할 수도 있습니까? 매우 초기 단계이고 확실히 많은 결함이 있습니다(특히 내장된 보호 장치에도 불구하고 악의적인 응답을 생성하기 위해 시스템을 게임하는 방식). 그러나 AI가 사이버 보안 산업을 어떻게 변화시킬 수 있는지에 대한 논쟁이 확대되었습니다. .

새로운 도구인 ChatGPT는 재미있게 사용할 수 있습니다. Cloudflare의 유럽, 중동 및 아프리카(EMEA)의 SASE(Secure Access Service Edge) 및 이메일 보안 책임자인 Dave Barnett는 다음과 같이 말합니다. 시스템 - ChatGPL에 모호한 기술 개념을 시 형식으로 설명해달라고 요청한 사람이라면 누구나 이것이 얼마나 강력한지 깨닫게 될 것입니다."

그러나 Barnett은 발생한 심각한 우려를 강조합니다. "정보보호 기관에서는 그 의미를 고려하는 데 약간의 시간이 필요하다고 생각합니다. 첫째, 우리가 419 사기, 배달 결제 SMS 또는 비즈니스 이메일 도용에 속았을 때 이해하기가 매우 쉬웠습니다. 인간에게는 모두 가짜로 보였습니다.”라고 그는 말합니다.

"합성 지능이 우리를 속일 수 있을까요? 데이터가 어디로 가는지, 컨트롤러와 프로세서가 누구인지 등 데이터 보호 위험에 대해서도 매우 주의해야 합니다. 인간은 천성적으로 호기심이 많습니다. 인간이기 때문에 공유해서는 안되는 정보를 공유할 가능성이 높습니다. 마지막으로 이것이 IT의 기술 부족을 해결하는 방법이 될 수 있습니까? OpenAI가 오랫동안 잊혀진 언어로 코드를 작성할 수 있다면 아마도 큰 도움이 됐어요."

Cofense의 수석 위협 고문인 Ronnie Tokazowski는 "세계 평화와 UFO 폭로에 대한 AI 생성 랩 가사를 만드는 것은 재미 있고 건방진 일이지만 AI를 속이는 것이 가능하기 때문에 플랫폼을 통해 창의력을 발휘할 수 있는 기회를 즐겼습니다. 당신이 찾고 있는 정보를 제공하는 것입니다."

모든 애플리케이션 빌드에는 안전 장치를 보장하는 것이 필수적이며, 빌드 후 보안 래퍼와 비교하여 AI를 위한 설계별 보안이 항상 선호되는 옵션입니다. "AI의 의도는 좋고 피싱 시뮬레이션을 만들고 싶지 않습니다"라는 점에서 개발자의 목표는 분명하지만 피싱이라는 단어를 제거하는 등 다양한 방법으로 요청해도 여전히 긍정적인 반응을 얻지 못합니다. 그러나 창의력을 발휘하면 결과가 나왔습니다.