인사·노무 분야에도 AI가 빠르게 들어오고 있습니다. 진단, 문서 검토, 상담 응대까지 AI가 관여하는 범위가 넓어졌습니다. 그런데 정작 "그 결과를 누가 정했는가"는 밝혀지지 않는 경우가 많습니다.
지난 8월 뉴스레터에서 AI 도입을 검토하는 기업이 미리 정리해 둘 다섯 가지를 적었습니다. 이번 글은 그 다섯 가지 질문을 산업안전 백신에 그대로 던지고, 이미 공개한 FAIR AI 사용 가이드라인에서 답을 찾아 옮긴 것입니다. 다른 도구를 살펴보실 때도 같은 질문을 던져 보시면 됩니다.
하나. AI가 쓰인다는 사실을 시작 전에 알리는가
진단·상담 화면에서는 시작하기 전에 AI가 보조로 쓰인다는 사실을 알립니다.
둘. AI가 만든 결과물에 그 사실을 표시하는가
AI가 만든 문장에는 AI 표시를 붙입니다. AI 감독관 리포트도 마찬가지입니다.
판정과 등급, 권고 자체는 규칙이 낸 결과입니다. AI 표시가 붙은 문장은 그 결과를 읽기 쉽게 다듬은 것이고, AI가 만든 결과에는 참고용이라는 안내를 항상 함께 둡니다.
셋. AI 처리를 외부에 맡긴다면 개인정보 처리방침에 적혀 있는가
AI 처리는 외부 AI 제공사에 위탁합니다. 위탁받는 곳과 항목은 각 서비스의 개인정보 처리방침에 적어 두었으며, 바뀌면 함께 고칩니다.
보관하는 정보는 회사명·이메일·진단 응답·9대 증빙 등 필요한 범위로 정해 두었습니다. 간이진단 응답은 저장하지 않고, AI 보조 처리에는 개인정보를 전달하지 않습니다.
고객 자료로 모델을 학습시키지도 않습니다. 모델 자체를 다시 훈련시키는 대신 필요할 때 자료를 찾아 읽고 그 근거로 답하게 하는 방식을 쓰기 때문에, 고객의 자료가 모델 학습에 들어가지 않습니다.
지난 글에서 이 세 번째 질문이 특히 자주 빠진다고 적었습니다. AI 기능을 붙이면서 개인정보 처리방침을 함께 고치지 않으면 실제 처리와 공개한 내용이 어긋나게 됩니다. 반대로 쓰지도 않는 수탁자를 미리 적어 두는 것도 같은 이유로 흠결이 됩니다.
넷. 최종 판단을 사람이 하는가, 그 사람이 누구인가
진단 등급, 위험 판정, 이행 여부 같은 결론은 공인노무사가 설계한 규칙이 냅니다. AI는 그 결론을 읽기 쉽게 다듬고 관련 자료를 찾아 붙이는 일을 합니다. 그래서 같은 답변을 두 번 넣으면 같은 결론이 나옵니다.
AI는 규칙이 놓칠 수 있는 표현·맥락을 보조로 덧붙일 뿐, 등급을 바꾸지 않습니다.
AI에게 일을 맡기되 결정과 검수는 사람이 합니다. 대표가 최종 결정과 대외 발신을 승인하고, 총괄 AI에는 결재권을 주지 않았으며, 별도의 AI 감사팀이 독립적으로 사후 감사합니다. AI 관리·감독 책임자의 이름과 연락처도 가이드라인에 함께 적어 두었습니다.
사람이 매번 확인하지 않아도 어긋난 결과가 밖으로 나가지 못하도록 프로그램 자체에도 장치를 두었습니다. AI가 "위법입니다" 같은 단정을 쓰면 발행 전에 걸러 바꿉니다. 규칙에 없는 새 조언을 만들어 내면 그 결과 전체를 버립니다. 위험이 높거나 확인되지 않은 항목은 사람 검토 표시를 끌 수 없고, 검증을 통과하지 못한 산출물은 밖으로 나가지 않습니다.
다섯. 설계와 검수 과정이 기록으로 남는가
산업안전 진단 문항과 경영책임자 9대 의무 판정 기준은 문서로 검수받아 코드에 고정되어 있고, 바뀔 때마다 기록이 남습니다. 설계 문서와 노무사 검수 기록을 보관하므로, 판정 기준이 바뀌면 언제 무엇이 바뀌었는지 확인할 수 있습니다.
판정 기준은 공개되어 있습니다. 결과 화면에도 어느 기준에서 그 결론이 나왔는지 함께 표시합니다.
하지 않기로 정한 것
가이드라인에는 할 수 있는데 하지 않는 것이 아니라, 하지 않기로 정하고 그렇게 만든 것들도 적어 두었습니다. 그중 몇 가지를 옮깁니다.
AI가 법적 판단을 대신하지 않습니다. 고객 자료를 AI 모델 학습에 쓰지 않습니다. 단정적인 위법 판단을 만들지 않습니다. 사람의 검수 없이 대외로 내보내지 않습니다.
기술이 좋아진다고 이것들이 바뀌지는 않습니다.
결과에 이견이 있으시면
결과에 이견이 있으시면 알려 주십시오. 사람이 다시 확인해 답변드립니다.
가이드라인 전문은 아래에서 보실 수 있습니다. https://www.fairhr.net/ai-guidelines
다섯 가지 질문을 처음 적은 8월 뉴스레터는 아래에 있습니다. https://safety.plustai.com/support/monthly/a240cab2-d8d4-4574-ad56-fc9a2f9d01e3