AI가 사람을 뽑고 평가하는 데 쓰이면서, 해고하는 순간에도 AI를 비롯한 자동화 시스템의 판단이 끼어들고 있다. 이때 피할 수 없는 질문이 있다. 시스템이 사실상 정한 해고를 사람의 결정이라고 부를 수 있을까.

아마존은 2019년 물류센터의 자동 해고 문제가 보도되자, 관리자가 시스템의 자동 통지를 뒤집을 수 있다며 ‘자동 시스템에 의한 해고’라는 지적을 부인했다. 결정 과정 어딘가에 사람이 있으면 사람의 결정이라는 논리다.

하지만 캘리포니아 주지사가 지난 9월 말 서명한 상원 법안 947호(SB 947)는 다르게 답한다. 결정 과정에 사람이 끼어 있는 것만으로는 부족하고, 그 사람이 시스템의 판단을 실제로 확인해야 한다는 것이다. AI가 일터에 들어온 뒤, 해고라는 가장 무거운 결정에서 사람이 무엇을 해야 하는지를 법으로 정한 셈이다.

이 기사는 AI를 비롯한 자동화 시스템이 일터 곳곳에 깊숙이 들어오고 있는 지금, SB 947의 내용과 의의, 그리고 한계를 정리한다.

AI 시대에 등장한 ‘로봇 상사 금지법’

앞으로 캘리포니아주에서는 회사가 AI 같은 자동화 시스템의 판단만으로 직원을 해고하거나 징계할 수 없다. 개빈 뉴섬 캘리포니아 주지사는 2026년 9월 30일 이런 내용을 담은 SB 947에 서명했다. 대표 발의자인 민주당 제리 맥너니 주 상원의원이 ‘로봇 상사 금지법(No Robo Bosses Act)’이라고 이름 붙인 이 법은 2027년 7월 1일 시행된다.

'제리 맥너니 상원의원 사무실은 9월 30일 보도자료에서 뉴섬 주지사가 직장 내 AI 활용에 사람의 감독을 의무화한 ‘로봇 상사 금지법’에 서명했다고 밝혔다. (출처: Senator Jerry McNerney)

법의 핵심은 세 가지다. 첫째, 회사는 징계·해고를 결정할 때 자동화 시스템에만 의존해서는 안 되고, 시스템의 판단에 주로 기댔다면 사람이 그 판단을 따로 확인해야 한다. 둘째, 사람이 확인하지 못한 시스템의 판단은 징계·해고의 근거로 쓸 수 없다. 셋째, 자동화 시스템이 쓰였다는 사실이 드러나면, 법이 정한 절차를 지켰다는 증명은 노동자가 아니라 회사가 해야 한다.

지금까지 미국에서 고용 분야의 AI 규제는 대부분 AI를 쓴다는 사실을 알리거나 AI 시스템의 편향을 점검하라는 수준이었다. 반면 SB 947은 자동화 시스템의 판단을 징계·해고에 어떻게 쓸 수 있고 어떻게 쓸 수 없는지를 노동법에 정했다는 점에서 한 발 더 나간 법이다.

이 법이 캘리포니아에서 나왔다는 점도 눈여겨볼 만하다. 캘리포니아에는 주요 AI 기업 상당수가 본사를 두고 있고, 이 법이 통과되기까지 업계의 반발도 컸다. 뉴섬 주지사 자신도 1년 전 같은 취지의 법안(SB 7)에는 거부권을 행사했다. SB 947도 입법 과정에서 내용이 일부 약해졌지만, 결국 통과됐다.

물론 이 법의 한계도 분명하다. 보호 대상은 회사에 고용된 피고용인뿐이어서, 앱으로 일감을 받는 배송·차량호출 기사 같은 독립계약자(플랫폼 노동자)는 빠졌다. 법안을 후원한 노동계도 더 강한 법이어야 한다는 입장이다.

이 법이 겨냥한 문제는 8년 전 아마존이 미국 노동관계위원회에 낸 법률 문서에 이미 적혀 있었다.

2018년 아마존에서는 이미 시스템이 해고 판단

2018년 9월 4일, 아마존 측 변호인(로펌 모건 루이스)이 미국 노동관계위원회(NLRB·부당노동행위를 심사하는 연방 독립기관)에 서한을 보냈다. 메릴랜드주 볼티모어의 아마존 물류센터 ‘BWI2’에서 해고된 노동자가 생산성 기준 등에 불만을 제기했다가 보복성으로 해고됐다며 구제를 신청하자, 이에 답한 서한이었다(노동자는 이후 신청을 취하했다). 미국 IT 전문매체 더버지(The Verge)는 정보공개청구로 이 서한을 입수해 2019년 4월 보도했다.

더버지가 공개한 아마존 측이 미국 노동관계위원회(NLRB)에 보낸 서한 일부 (출처: 더버지 기사)

서한에는 “아마존 시스템은 노동자 개개인의 생산성을 추적하고, 관리자의 입력 없이 품질이나 생산성에 관한 모든 경고나 해고를 자동으로 생성한다”는 문장이 있다.

최근 12개월 안에 최종 서면경고가 두 번, 또는 서면경고가 모두 여섯 번 쌓이면 시스템이 해고 통지를 자동으로 만든다. 바코드 스캔이 멈춘 ‘업무 이탈 시간’도 기록돼, 이 시간이 길어지면 경고가 나가고 2시간을 넘으면 해고 사유가 된다.

서한은 BWI2 한 곳에서만 2017년 8월 이후 “수백 명”을 생산성 미달로 해고했다고 밝혔다. 아마존 대변인은 더버지에 2017년 8월부터 2018년 9월까지 1년 남짓 동안 이곳에서 비효율을 이유로 해고된 정규직이 약 300명이라고 설명했다. 보도 당시 이 물류센터의 정규직은 약 2,500명이었다. 더버지는 같은 속도라면 해마다 직원의 10% 넘게 생산성 때문에 해고되는 셈이라고 추산했다.

아마존 측은 서한에서 경고와 해고 통지를 만든 것은 사람이 아니라 시스템이므로 보복이 끼어들 여지가 없었다고 주장했다. 다만 같은 서한에는 사람이 시스템에 개입하는 대목도 있다. 관리자는 규정이 잘못 적용된 경우 자동으로 만들어진 해고 통지를 무효로 할 수 있다. 업무 이탈 시간도 관리자가 매일 검토해, 화장실 이용처럼 합당한 사유가 있으면 경고를 면제할 수 있다. 또한 해고된 노동자는 동료들로 꾸려진 심사위원회에 이의를 제기할 수 있다.

7~8년 전 논란이 된 이 시스템은 오늘날 말하는 AI라기보다 스캔 기록으로 작업 속도를 측정하는 자동화 시스템에 가깝다. 2018년 아마존은 “관리자의 입력 없이”라는 문장을 보복이 없었다는 근거로 내세웠다. 하지만 SB 947이 시행된 뒤의 캘리포니아라면, 같은 문장은 회사가 시스템을 써서 해고했다고 스스로 인정하는 셈이 되고, 그때부터 절차를 지켰다는 증명은 회사의 의무가 된다.

기존 법과 무엇이 다른가

앞서 말한 ‘알리고 점검하는’ 규제의 대표적인 예가 뉴욕시와 일리노이주다. 뉴욕시는 2023년부터 채용·승진에 쓰는 자동화 도구에 대해 1년 안에 받은 편향 감사 결과를 공개하고, 지원자에게 도구 사용을 미리 알리게 했다. 일리노이주는 2026년부터 해고·징계를 포함한 고용 결정에 AI를 쓸 때 노동자에게 미리 알리게 하고, 차별적 결과를 낳는 AI 사용을 금지했다. 두 법 모두 시스템의 판단을 징계·해고에 쓰기 전에 사람이 확인하라고 요구하지는 않는다.

콜로라도주는 사람의 재검토를 법에 넣었지만 조건을 달았다. 2026년 5월 만든 법(SB 26-189)은 고용처럼 중대한 결정에 쓰이는 자동화 시스템을 규율하는데, 불리한 결정을 받은 사람이 요청한 경우, 그것도 ‘기술적으로 가능한 경우’ 등에만 사람이 다시 검토하게 했다.

반면 SB 947은 노동자가 요청하지 않아도, 회사가 시스템의 판단에 주로 기대 징계·해고를 하려면 사람이 그 판단을 확인하게 했다. 콜로라도 법은 2027년 1월 시행 예정이다. 다만 일론 머스크의 AI 기업 xAI가 낸 소송으로 법원이 콜로라도의 기존 AI 법 집행을 정지했고, 주 법무장관은 시행 규칙이 확정될 때까지 새 법도 집행하지 않겠다고 밝혔다.

‘로봇 상사 금지법’이 새롭게 세운 원칙

법이 말하는 자동화 의사결정시스템(ADS·Automated Decision System)은 머신러닝·통계 모델·데이터 분석·AI 같은 연산 방식으로 점수나 분류, 추천을 내놓고, 그 결과로 사람의 판단을 돕거나 대신하는 시스템이다. 이 정의에서 빠지는 것은 스팸 필터·방화벽·백신 프로그램·계산기·데이터베이스 같은 도구뿐이다. 그래서 최신 AI뿐 아니라 2018년 아마존의 생산성 추적 시스템 같은 단순한 자동화 시스템도 이 정의에 들어갈 수 있다.

‘로봇 상사 금지법(SB 947)’은 일터에서 AI를 쓰는 것 자체를 금지하지는 않는다. 회사는 여전히 시스템으로 노동자의 성과를 측정하고, 그 결과를 인사에 참고할 수 있다. 달라지는 것은 시스템의 판단을 징계·해고에 쓰는 방식이다.

맥너니 의원은 법안 서명 직후 낸 성명에서 “어떤 노동자도 로봇 상사에게 해고되거나 징계받아서는 안 된다”며 “AI는 사람이 통제하는 도구로 남아야 하고, 그 반대가 돼서는 안 된다”고 밝혔다.

SB 947이 세운 원칙은 다섯 가지로 정리할 수 있다.

1. 시스템의 판단만으로는 해고할 수 없다

회사는 징계나 해고를 결정할 때 ADS에만 의존해서는 안 된다(캘리포니아 노동법 제1522조 (b)(1)). 시스템의 판단에 주로 기댄다면 사람이 그 판단을 확인해야 한다(같은 조 (b)(2)). 확인하는 사람은 시스템이 쓴 데이터나 관리자 평가, 인사기록, 업무 산출물, 동료 평가, 증인 면담 같은 자료를 근거로 시스템의 판단이 맞는지 따진다.

2. 확인되지 않은 판단은 징계·해고에 쓸 수 없다

사람이 시스템의 판단을 확인하지 못했거나, 검토한 사람이 그 판단이 부정확하거나 불완전하거나 오해를 부른다고 보면, 회사는 그 판단을 징계·해고에 쓸 수 없다(제1522조 (c)).

3. 절차를 지켰다는 증명은 회사가 한다

알고리즘 인사 문제에서 노동자가 가장 불리한 점은 정보가 없다는 것이다. 노동자는 회사 시스템이 어떤 데이터로 어떤 점수를 매겼는지, 관리자가 그 점수를 얼마나 따랐는지 알기 어렵다.

그래서 SB 947은 증명 책임을 회사 쪽으로 옮겼다. 징계나 해고에 ADS가 쓰였다는 사실만 드러나면, 회사가 ‘시스템에 주로 기대지 않았다’거나 ‘확인과 통지 절차를 지켰다’는 것을 증명해야 한다(제1526.1조 (c)).

4. 사람이 확인해도 쓸 수 없는 용도가 있다

사람이 확인을 거쳤더라도 회사는 다음 용도로 ADS를 쓸 수 없다(제1522조 (a)). 하나는 노동자의 인종·종교·장애 같은 법적 보호 대상 속성을 추정하는 것이다. 다른 하나는 노동자가 노조 활동이나 고충 제기처럼 법적 권리를 행사할지 예측해 미리 불이익을 주는 것이다. 노동·고용·민권 법령을 어기는 데 쓰는 것도 금지된다. 이 부분은 절차가 아니라 용도 자체를 막는다.

5. 최소 기준일 뿐, 상한이 아니다

SB 947은 노동자를 더 강하게 보호하는 시·카운티 조례를 막지 않는다(제1526.2조). 법은 민간 기업뿐 아니라 주정부·시·카운티·학교구 같은 공공부문 사용자에도 적용된다(제1520조 (d)).

단체협약으로 이 법을 대신하는 길도 있다. 협약이 이 법의 적용을 명시적으로 포기하고, 임금·근로조건과 함께 ‘알고리즘에 의한 관리로부터의 보호’를 따로 규정하면 SB 947은 적용되지 않는다(제1526.5조).

미국 최대 노동조합 연합체인 AFL-CIO의 리즈 슐러 위원장은 서명 전 뉴섬 주지사에게 보낸 서한에서, SB 947을 포함해 노동계가 서명을 요구한 일터 AI 법안들을 “일터에서 AI의 최악의 남용으로부터 노동자를 보호하는 바닥”이라고 불렀다.

아직 법이 닿지 않는 사각지대

처음 발의된 법안은 앱으로 일감을 받는 독립계약자와 계정 정지까지 규제 대상에 넣었지만, 2026년 8월 21일 수정에서 두 가지 모두 빠졌다.

캘리포니아에서는 2020년 주민투표로 통과된 ‘주민발의안 22호(Prop 22)’에 따라 앱 기반 차량호출·배달 기사가 독립계약자로 분류된다. 알고리즘이 사실상 상사인 이들이 법의 보호 밖에 남은 셈이다.

대표적인 사례가 아마존 배송 서비스 ‘플렉스(Flex)’의 배송기사 스티븐 노먼딘이다. 2021년 미국 경제매체 블룸버그는 ‘봇에게 해고당하다(Fired by Bot)’라는 제목으로 그의 사연을 보도했다. 4년 가까이 플렉스에서 일한 노먼딘은 잠긴 출입문이나 고장 난 택배 보관함처럼 본인이 어쩔 수 없는 문제로 알고리즘이 매긴 등급이 떨어졌고, 자동 이메일 한 통으로 계약을 해지당했다. 노먼딘은 아마존에 고용된 노동자가 아니라 독립계약자였고, 그가 당한 일도 법적으로는 해고가 아니라 계정 정지였다. 캘리포니아에서 같은 일이 일어나도 이 법으로는 막을 수 없다.

캘리포니아 노동연맹(주 안의 노동조합들이 모인 연합단체)이 주 상원 청문회에서 입법 근거로 든 간호사 단기 근무 앱 시프트키(ShiftKey) 사례도 마찬가지다. 노동연맹은 이 앱이 같은 근무에 간호사마다 다른 임금을 매긴다고 증언했다. 하지만 최종본은 독립계약자를 대상에서 뺐고, 임금 결정도 다루지 않는다.

피고용인 입장에서도 법적 빈틈은 있다. 법은 사람이 확인할 때 시스템이 쓴 데이터를 그대로 근거로 삼을 수 있게 했고, 발의안에 있던 검토자의 ‘독립 조사’ 문구는 삭제됐다. 시스템에 ‘주로 의존’했다고 판단하는 기준도 법에 정의되지 않았다.

집행 수단도 제한적이다. 법은 주 노동법 집행을 맡는 노동위원장(Labor Commissioner)과 검사가 집행하도록 했고, 위반 한 건에는 과태료 성격의 제재금 500달러를 물린다. 노동자가 직접 회사를 상대로 소송을 낼 권리는 없다.

반대로 법의 힘이 예상보다 클 수 있다는 전망도 있다. 미국 IT 매체 CIO는 이 법의 더 큰 영향이 앞으로 부당해고 분쟁에서 나타날 수 있다고 짚었다. ‘알고리즘이 그렇게 판단했다’는 말이 회사의 방어 논리로 쓰이기 어려워질 수 있다는 것이다.

한국에서는

한국 국회에도 비슷한 법안이 있다. 국민의힘 이종배 의원 등 10명은 2026년 6월 근로기준법 개정안을 냈다. 개정안은 사용자가 AI를 활용해 노동자에게 중대한 영향을 미치는 결정을 할 때 미리 알리게 하고, AI에 의한 결정만으로 해고·휴직·정직·전직·감봉 같은 불리한 처우를 하지 못하게 한다. 또 노동자에게 설명을 요구할 권리와 그 결정에 관여하지 않은 사람에게 재검토를 받을 권리를 준다.

반면, 국회 기후에너지환경노동위원회 검토보고서에 실린 정부 의견은 결이 다르다. 고용노동부는 “AI를 통한 완전히 자동화된 결정이 아닌 경우 이는 인간으로서 사용자의 결정”이라며 신중한 검토가 필요하다고 밝혔다. 개인정보보호위원회도 사람이 직접 판단했다면 AI는 “단순 보조 도구”에 불과하므로 별도 입법의 실익이 크지 않다고 봤다.

두 기관 모두 결정 과정에 사람이 들어 있으면 사람의 결정으로 본다. 이 논리대로라면 관리자가 시스템의 판단을 그대로 받아들여 결재하기만 해도, 그 결정은 ‘완전히 자동화된 결정’이 아니게 된다.

‘로봇 상사 금지법(SB 947)’은 이 지점을 다르게 본다. 결정 과정에 사람이 있었는지가 아니라, 회사가 시스템의 판단에 얼마나 기댔는지를 묻는다. 시스템의 판단에 ‘주로 의존’했다면 결재만으로는 부족하고, 사람이 근거 자료로 그 판단을 ‘확인’해야 한다.

해고의 근거에서, 확인할 자료로

2018년 아마존 문서에 적힌 대로 “관리자의 입력 없이” 해고하는 방식은, 2027년 7월부터 적어도 캘리포니아의 피고용인에게는 허용되지 않는다. 자동화 시스템의 판단은 이제 해고의 근거가 아니라, 사람이 확인해야 할 자료다.

이 원칙이 실제로 얼마나 힘을 가질지는 법이 시행된 뒤 집행과 분쟁을 거치며 드러날 것이다. 노먼딘 같은 플랫폼 노동자에게까지 이 원칙을 넓히는 일은 다음 입법의 과제로 남았다.