조직 내에서 가장 위험한 AI는 여러분이 존재조차 모르는 AI입니다.
지금 이 순간에도 어떤 직원은 클라이언트 데이터를 파운데이션 모델에 입력하고 있습니다. 어떤 팀은 아무도 검증하지 않은 AI 플러그인을 실행하고 있습니다. 도입된 제품이 지난 업데이트에서 조용히 AI 기능을 탑재했지만, 공급업체는 이를 IT 부서에 알리지 않았습니다.
이 중 그 무엇도 리스크 대장에 나타나지 않습니다.
섀도우 AI는 정의상 거버넌스 밖에 존재하기 때문입니다.
이번 주에 던져봐야 할 세 가지 핵심 질문:
1. 내장된 도구를 포함하여, 조직 전체에서 실제로 어떤 AI 도구가 사용되고 있는지 파악하고 있는가?
2. 유용한 AI 도구를 발견한 직원이 두려움 없이 이를 공개할 수 있는 절차가 마련되어 있는가?
3. 질문 1과 2에 대한 답변의 책임은 누구에게 있는가?
세 번째 질문에 침묵이 돌아온다면, 그 침묵 자체가 하나의 심각한 발견입니다.
제1장: Enterprise-wide AI Risk Management® (EW-AiRM®) ewairm.com 섀도우 AI와 기기 내장형 AI를 각주가 아닌 1급 리스크 범주로 다룹니다.
자세히 알아보기: www.ewairm.com