지난달 "AI 임원 4명과 회사를 경영합니다"라는 글로 이 실험을 처음 소개했습니다. 재무를 보는 AI, 마케팅을 하는 AI, 운영 데이터를 점검하는 AI, 데이터 파이프라인을 관리하는 AI 넷이 각자 역할을 나눠 일한다는 이야기였습니다. 한 달이 지나 두 번째 이야기를 전합니다.
이번 달 배운 것은 한 가지 사건에서 시작합니다. AI가 실행한 일이, AI도 사람도 손대지 않았는데 저절로 되돌아간 사건입니다.
며칠 뒤 저절로 되돌아간 설정
저희가 쓰는 검색광고 시스템에는 "자동으로 더 효율적으로 최적화해 준다"는 추천 기능이 여럿 붙어 있습니다. AI 마케팅이사가 그중 하나를 점검하다가 원치 않는 방향으로 켜져 있는 것을 발견했고, 대표가 확인한 뒤 껐습니다.
그런데 며칠 뒤 다시 들여다보니, 꺼 두었던 그 설정이 다시 켜져 있었습니다. 사람도 만지지 않았고 AI도 그 사이에 아무 작업을 하지 않았습니다. 원인을 추적해 보니, 계정에 예전부터 켜져 있던 광고 시스템의 "자동 적용" 구독이었습니다. 해당 추천 유형이 활성화돼 있어, 사람이 수동으로 꺼 둔 설정이 며칠 뒤 다시 적용된 것입니다.
[이미지: 02_ai_watchdog_routine.png]
AI의 실수가 아니라, 몰랐던 규칙
이건 저희 AI가 잘못 판단한 사건이 아닙니다. 저희가 쓰는 외부 시스템에 "사람이 정한 설정도 자동으로 재조정한다"는 규칙이 내장돼 있었고, 그 규칙의 존재를 처음엔 몰랐던 것입니다. 껐다고 끝난 게 아니라, 꺼진 상태가 유지되는지를 따로 확인해야 하는 구조였습니다.
조치는 두 가지였습니다. 첫째, 되돌리는 기능 자체를 찾아서 끌 수 있는 만큼 껐습니다. 둘째 — 이게 더 중요한데 — 그것으로 안심하지 않고 매주 같은 항목을 다시 확인하는 루틴을 만들었습니다. "한 번 고쳤다"에서 "달라지면 바로 안다"로 기준을 바꾼 것입니다.
두 번째 달에 다시 그은 경계
첫 달 글에서는 AI에게 "무엇을 시키고 무엇은 절대 안 시키는가"의 경계를 설명했습니다. 돈이 나가는 결정과 회사 밖으로 나가는 일은 AI가 초안까지만 만들고, 실행은 사람이 확인한 뒤 한다는 원칙이었습니다.
두 번째 달에는 그 경계 하나를 더 그었습니다. AI에게 맡긴 일도, 결과가 그대로 유지되는지 확인하는 몫은 사람(또는 사람이 정한 루틴)의 것이라는 경계입니다. 맡기는 것과 확인하는 것은 다른 일입니다. 특히 저희가 직접 만들지 않은 외부 시스템과 연결된 일일수록, 그 시스템이 스스로 무엇을 바꿀 수 있는지부터 알아야 한다는 것을 이번에 배웠습니다.
그래서 지금은
지금은 이 항목을 포함해 몇 가지를 매주 정해진 시각에 다시 조회합니다. 달라진 게 없으면 "이상 없음"이라고만 기록하고 넘어갑니다. 달라졌으면 그날로 보고합니다. 화려한 해결책은 아닙니다. 그냥 정기적으로, 빠짐없이 다시 보는 것입니다. 그런데 이게 의외로 사람이 제일 못 지키는 습관이라, AI 임원에게 이 루틴을 맡긴 뒤로는 한 번도 거른 적이 없습니다.
다음 달에도 이 실험이 어떻게 흘러가는지 이어서 전하겠습니다.
이미지 지시 (본문 삽입용)
- "며칠 뒤 저절로 되돌아간 설정" 섹션 바로 아래:
outputs/blog_drafts_202609/02_ai_watchdog_routine.png— 사람이 설정 확정 → 며칠 뒤 스스로 복귀 → 감시 루틴 신설, 3단계 인포그래픽.
검색 키워드 (본문에 자연 배치됨)
중소기업 AI 활용, AI 자동화 감시, AI 거버넌스, 업무 자동화 관리, 산업서비스 AI 도입, 울산 기업 AI, AI 임원, 디와이산업개발
작성 기준 (내부용)
- 회사 민감 수치(광고비 금액·계정번호·플랫폼 실명) 미포함 — "검색광고 시스템"으로만 지칭, 벤더명 비노출.
- 매립 언급 없음. 고객사 관련 언급 없음(이 편은 순수 내부 조직 운영 소재).
- AI스토리 월 1회 리듬의 9월분(2번째 편). 08월 "AI 임원 4명과 회사를 경영합니다"의 직접 후속편 — "다음 달에도 이어서 전하겠다" 약속을 지키는 구조.
