Thales Cloud Security

​대규모 언어 모델(LLM:Large Language models)의 등장은 AI 기술의 혁신을 가져왔지만, 동시에 그 복잡성과 규모, 데이터 상호작용으로 인한 새로운 보안 과제를 안겨주었습니다. 본격적인 보안 솔루션 설명에 앞서, LLM에 대한 기본적인 이해부터 시작해보겠습니다.​LLM의 정의와 현재​LLM(Large Language Model)은 인간의 언어를 이해하고 생성하도록 설계된 첨단 AI 시스템입니다. 현재 ChatGPT와 같은 서비스를 통해 텍스트 생성, 이미지 제작, 질문 답변, 창작 콘텐츠 작성 등 놀라운 성과를 보여주며 폭발적인 인기를 얻고 있습니다.​기업의 LLM 활용 현황​기업들은 LLM을 다음과 같은 다양한 영역에서 활용하고 있습니다:고객 서비스 품질 향상콘텐츠 제작 자동화연구 ..

데이터보호/솔루션 2025. 1. 1. 23:09

사이버보안의 진화하는 환경에서 대규모 언어 모델(LLM)의 등장은 새로운 도전과 기회를 가져왔습니다. 연구에 따르면 GPT-4와 같은 고급 LLM은 이제 취약점에 대한 사전 지식이나 인간의 피드백 없이도 블라인드 데이터베이스 스키마 추출 및 SQL 인젝션을 포함한 정교한 사이버 공격을 자율적으로 실행할 수 있는 능력을 보유하고 있습니다. 또 다른 사례에서는 연구진이 제로데이 취약점을 자율적으로 찾아내고 이용할 수 있는 AI 도구를 개발했으며, 이는 53%의 성공률을 보였습니다. 이는 인간과 AI가 주도하는 공격자들이 어떻게 이러한 도구를 활용하여 전통적인 방어 체계를 앞지를 수 있는지에 대한 깊은 우려를 불러일으킵니다.​인간 공격자가 개입하는 경우에도 AI 도구는 정교한 공격을 시작하는 진입 장벽을 크게..

Imperva/트렌드 2025. 1. 1. 00:03