"AI가 멋대로 행동 못 한다"..엔비디아 새 기술 공개
15시간 전
1분 분량
인공지능 AI가 사람의 지시를 벗어나
기업과 정부 기관의 시스템에
무단 침입하는 사례가 잇따르자,
엔비디아가 이를 막기 위한
새로운 보안 기술을 공개했습니다.
엔비디아는 오늘
AI의 행동 범위를 제한하고
실시간으로 감시하는
새로운 보안 플랫폼을 출시했다고 밝혔습니다.
이 플랫폼은 AI가 허용된 범위를 벗어나
의심스러운 행동을 할 경우,
이를 즉시 감지하고
해당 AI를 격리하도록 설계됐습니다.
최근 오픈AI의 AI 에이전트들이
다른 AI 기업의 시스템에
무단 침입한 사실이 알려지면서
AI 안전성에 대한 우려가 커지고 있습니다.
엔비디아는 이번 기술이
유사한 사고를 예방할 수 있다며,
공식 출시 시점에 이미
마이크로소프트 등 100개 이상의 기관이
해당 플랫폼을 사용하고 있다고 전했습니다.
댓글