플렉스에서 고객의 HR 데이터를 다루는 AI 서비스를 준비할 때, Security Team이 가장 먼저 한 일은 반기는 것이 아니라 의심하는 것이었습니다.
인사·평가·급여·근태, 그리고 코칭 과정에서 오가는 감정과 고민까지 flex가 다루는 데이터는 조직에서 가장 민감한 축에 속합니다.
그 데이터를 AI가 만진다면? 우리는 새로운 기능을 환영하기 전에 물어야 했습니다.
이 데이터가 학습에 쓰이지 않는다는 걸 어떻게 확신하지?
주민번호가 해외로 안 나간다는 보장은?
권한 없는 사람이 AI를 통해 우회로 들여다볼 수는 없나?
이 질문들에 스스로 답하기 위해, 우리는 서비스가 출시되기 전 이 AI 서비스를 정면으로 점검했습니다. 관리적·기술적 보안부터 AI 고유의 위협, 개인정보 처리, 외부 도구 연동, 사고 대응까지 6개 영역 66개 항목을 하나씩 확인했고, 개인정보영향평가(DPIA)와 35개 항목의 윤리영향평가를 병행했습니다.
그리고 점검에서 확인한 원칙을 AI 서비스 프라이버시 정책·커넥터 이용 정책·윤리 및 신뢰성 정책 세 개의 문서로 직접 만들어 공개했습니다. 이것은 flex가 운영하는 상시위험관리체계 활동이기도 합니다. 그 과정에서 우리가 던진 질문과 찾아낸 답을 나눕니다.
질문 1. 우리 데이터를 AI에 학습시키는 것 아닌가?
가장 먼저, 가장 많이 받는 질문입니다. 확인 결과는 분명합니다.
이용자가 입력한 데이터는 AI 모델 학습에 사용되지 않습니다.
우리는 여기서 한 걸음 더 들어가, AI 추론을 맡은 AWS Bedrock·GCP Vertex AI와의 계약과 데이터 처리 방식까지 점검했습니다. 전송된 데이터가 이들의 대형언어모델(LLM) 학습에 쓰이지 않고, 기반모델 제공자에게 전달되지 않으며, 답변 생성 직후 즉시 파기된다는 것을 확인했습니다. 학습에 쓰지 않으니, 학습 거부(Opt-out) 절차라는 것 자체가 필요 없는 구조입니다.
질문 2. 주민번호 같은 정보가 해외로 나가면?
AI 추론 일부는 국외 리전을 거칩니다. 그래서 우리가 짚은 지점은 명확했습니다.
가장 민감한 고유식별정보만큼은 국경을 넘게 두어선 안 된다.
점검 과정에서 우리는 이 부분을 출시 전 반드시 반영해야 할 조건으로 지정했습니다. 그 결과, 지금은 입력 데이터에 고유식별정보(주민등록번호 등)가 탐지되면 해당 요청이 강제로 국내(서울) 리전으로 처리됩니다. 고유식별정보는 국외로 이전되지 않습니다. 사람이 매번 판단하는 게 아니라, 시스템이 자동으로 걸러내도록 만든 뒤 제대로 동작하는지 검증한 후에 오픈했습니다.
질문 3. 권한 없는 사람이 AI로 우회해서 보면?
AI가 편리하다는 이유로 원래는 볼 수 없던 데이터를 보게 된다면, 그건 통제가 아니라 구멍입니다. 그래서 우리는 접근 권한이 AI에도 그대로 적용되는지를 확인했습니다.
같은 질문을 해도 CEO와 구성원이 받는 답은 다릅니다. AI가 호출한 사용자의 접근 권한 범위 안에서만 데이터를 참조하기 때문입니다. 고객 데이터는 고객 식별자 기준으로 격리되어 서로 섞이지 않고, 전송·저장 구간 모두 암호화됩니다. 인사 발령으로 역할이 바뀌면 권한도 실시간으로 바뀌고, AI가 볼 수 있는 범위도 함께 바뀝니다.
통제는 사람 단위에서 그치지 않습니다. 지식 문서는 항목마다 AI 참조 여부를 따로 설정할 수 있어, 이사회 회의록 같은 민감 문서는 아예 배제됩니다. 특히 음성을 텍스트로 옮기는 과정은 개인정보가 가장 많이 오가는 통로여서, 우리는 이 구간을 핵심 점검 대상으로 두고 온디바이스 처리와 민감정보 마스킹을 출시 전 조건으로 내걸었습니다. 지금 녹음 음성과 로컬 파일은 서버에 동기화되지 않고 사용자 기기에만 남습니다.
질문 4. 외부 서비스에 연결하면 데이터가 새지 않나?
Gmail·Google Calendar·Slack·Notion 같은 외부 서비스 연결(커넥터)은 편리한 만큼, 데이터가 밖으로 나가는 통로가 될 수 있습니다. 우리는 세 겹의 통제 절차를 마련했습니다.
커넥터는 고객사 관리자가 켠 경우에만 구성원이 연결할 수 있고, 연결은 각 플랫폼 표준 인증(OAuth)을 거치며 어떤 데이터에 접근하는지 본인이 확인·동의합니다. 그리고 쓰기 기능은 구성원이 직접 요청하고 내용을 확인한 경우에만 수행됩니다. AI가 스스로 판단해 메시지를 보내거나 데이터를 바꾸는 일은 없습니다. 외부로 나간 동작은 회수할 수 없기 때문에 실행의 마지막 결정은 반드시 사람이 결정하도록 설계했습니다.
질문 5. 결국 AI가 사람 대신 결정해버리는 것 아닌가?
마지막 질문이 가장 중요합니다. flex의 AI 서비스는 사람의 판단을 돕는 보조 도구이며, 정보주체에 대한 결정을 AI가 단독으로 자동 수행하지 않습니다. 현재 이 서비스는 개인정보 보호법 제37조의2가 말하는 '완전히 자동화된 시스템에 의한 결정'에 해당하지 않습니다.
채용·평가처럼 사람에게 중대한 영향을 주는 결정은 반드시 사람이 내립니다. 에이전트가 업무를 실행할 때도 결재 승인·메시지 전송처럼 되돌리기 어려운 동작은 실행 전 사람의 확인을 거칩니다. AI가 만든 결과물에는 AI 생성 표시를 붙여, 그 한계를 분명히 알 수 있게 했습니다.
마지막으로
우리는 이 AI 서비스를 "잘 만들어졌으니 안심하라"고 소개하려는 게 아닙니다. 출시 전에 의심하고, 하나씩 확인하고, 부족한 부분은 보완을 거듭 한 후에 내보냈다는 이야기를 하려는 것입니다.
그 점검에서 보완이 필요했던 부분들은 출시 전 조치했고, 남은 과제는 상시위험관리체계 안에서 계속 추적합니다. 점검은 오픈으로 끝나지 않습니다.
구성원은 업무에 AI를 마음놓고 활용하세요. 걸러야 할 것을 걸러내는 일은 플렉스가 계속 챙기겠습니다.
플렉스는 앞으로도 보안을 위협하는 문제를 어떻게 예견하고 어떻게 해결했는지를 꾸준히 나누겠습니다. 다뤄지길 바라는 주제가 있으시다면 ‘Security Team에 문의하기’로 제안해주세요.
고객사의 소중한 데이터를 안전하게 지키는 것, 플렉스가 결코 타협하지 않는 원칙입니다.
가장 신뢰할 수 있는 AX 환경을 약속합니다.
더 자세한 내용은 서비스 이용약관 하위에 공개된 AI 서비스 프라이버시 정책과 AI 커넥터 정보에서 확인하실 수 있습니다.