앤섬 어워드 수상작 & 파이낸셜 타임스 선정 2024년 최고의 책

몇 년 사이에 신입 공채, 알바, 인턴, 경력직 이직, 퇴사를 한 적이 있나요? 그 와중에 면접이나 평가를 위해 인공지능과 대면한 적이 있나요? 곧 규모가 꽤 큰 조직에서 신입사원 면접을 보아야 하나요? 그러면 아마 인공지능과 만날 것입니다.
HR 분야에서 인공지능은 조용히 눈에 띄지 않게 노동 시장을 장악하고 있습니다. 최대한 거부감 없이...
여러분의 합격과 불합격에 (사람인) HR 담당자 어느 정도 관여할까요? 사용자로, 효율성과 경비 절감을 선호하는 기업은 HR 담당 인공지능에 얼마나 의존하고 있을까요?
다른 산업과 같이 HR 분야에서도 사용자나 구직자 입장에서 AI가 주도하는 상황을 더 이상 피할 수 없습니다. 그렇다면 이제 AI와의 공존을 위해 어떤 보호 장치를 마련해야 하지 않을까요!

저자인 셸만은 기자이자 연구자로, 많은 구직자와 AI 업계 관계자들을 만나고, 직접 테스트하면서 AI 도구의 채용, 승진, 해고 알고리즘을 분석하였습니다. 분석 결과 결함도 있었고, 유용한 점도 있었습니다. AI가 인간을 대하는 방식이 어떤, AI 기술을 사용하는 기업의 자세가 어떤지, AI 기술에 대한 통제 권한이 있는 국가 기관은 무엇을 해야 하는지를 이 책에서 자세히 제시합니다. 회사에서 누군가가 언제 떠날지 예측하는 AI가 아무렇지도 않게 계속 제 역할을 정확하게 수행한다면 우리의 미래는 어떻게 될까요? AI 알고리즘이 우리 삶을 지배하려는, 이 시점에 AI 알고리즘에 대처하여 우리의 미래를 지켜야 하지 않을까요.

[목 차]

들어가며

AI 왈, 당신의 면접 점수는 0점입니다 ㆍ 약속과 경고

1장 알고리즘이 당신을 좋아하나요 - 이력서 스크리너

아마존 이력서 스크리너의 오류 ㆍ 이름이 성공 예측 변수 ㆍ 키워드 패턴과 직무의 연관성 ㆍ 성별에 따른 차별 ㆍ 작은 차이의 행동 패턴이 당락 결정 ㆍ 인공지능과 싸우는 인공지능 ㆍ 프로그래밍과 서류 작업 문제로 인한 오류 ㆍ 알고리즘의 인간 차별과의 싸움

2장 소셜 미디어 피드로 성격 특성 예측 - 소셜 미디어 스캔

최초, 모든 권한은 AI에게 ㆍ 비상식적 알고리즘이 제공하는 상시 감시 보고서 ㆍ 필자 스스로 테스트해 보기 ㆍ 소셜 미디어 패턴 분석, 개성과 성격 예측 ㆍ AI 기술에 대한 비판적인 검토의 필요성 ㆍ AI 기술에 대한 맹목적인 신뢰 ㆍ 알고리즘에 대한 검증이 필요한 이유

3장 비디오 게임으로 직무 능력 예측 - AI 게임

알고리즘 게임의 확대 ㆍ 잠재력 첫째, 기술은 둘째 ㆍ AI 게임의 장점, 다양한 AI 게임 ㆍ AI 게임의 한계 ㆍ 게임에서 지는 것, 불합격 ㆍ 플럼의 AI 게임 분석 ㆍ 파이메트릭스의 비디오 게임 ㆍ 파이메트릭스 AI 게임: 알고리즘의 허점 모순 ㆍ 능력 예측: 직무 관련 데이터 사용 ㆍ 직무 수행 능력을 반영하지 못하는 인공지능 게임 ㆍ 지원자를 자동으로 걸러내는 AI 게임

4장 화상 면접과 전화 인터뷰 - 얼굴 표정과 목소리 톤 분석

채용 민주화 ㆍ 채용 결정의 주체는? AI, 의뢰 기업 ㆍ re:WORK 사례: 내용보다 설득력 있게 말하기 ㆍ 면접 점수=내용+방식+얼굴 표정 ㆍ 편견 개입 극복 ㆍ 표정 분석 기술 - 알고리즘 투명성의 중요성 ㆍ 얼굴 움직임 알고리즘의 보편적 감정 감지 ㆍ 얼굴 표정 분석과 목소리 톤 분석 ㆍ 성격과 영어 능력 채점 ㆍ 일관성 결여와 지원자 사기 및 위조

5장 골상학, 인상학, 필적학 - AI HR 도구에 대한 아이디어

나쁜 두개골, 나쁜 사람들 ㆍ 외모로 성적 성향 추측 ㆍ 늑대와 허스키개 사례: 비판적인 테스트의 필요성 ㆍ 필적과 혈액형으로 채용?

6장 1개 알고리즘, 1가지 테스트로 장애인도? - 장애 편견

AI 면접 신청 단계에서 장애 공개 여부 ㆍ 운동 장애가 있는 지원자에게 게임은? ㆍ AI 시대에 더 어려워지는 장애인 채용 ㆍ AI 면접 시대에 청각 장애 및 난청 지원자 ㆍ 취업하려는 장애인을 위한 편의시설 ㆍ 장애인에 대한 AI 알고리즘의 공정성 ㆍ AI 시대, 차별 법규에 대한 정부의 역할 ㆍ 추가로 해결해야 할 과제: 감독 기관 권한 강화

7장 AI 알고리즘, 직원 모니터링과 평가 - 예측 분석과 조용한 채용

스킬 중심의 내부 고용과 산업 간 이동 ㆍ 커리어 코치: 추정 기술 예측과 인접 기술 제안 ㆍ 스킬 매칭 기술의 진화 ㆍ 번아웃 및 퇴사 위험 측정 ㆍ 문제가 있는 팀과 관리자 찾기: 추가 맥락 필요

8장 AI 알고리즘, 직원 모니터링과 평가 - 하향식 감시와 측정

비밀 요원 수준의 직원 감시 ㆍ 감시의 동의 범위 ㆍ 감시와 업무 성과 향상 ㆍ 생산성 점수 ㆍ 잠재적인 위협 직원에 대한 감시 ㆍ 생산성 지표의 효용성 ㆍ 감시로 인한 기본권 행사 침해

9장 신체 건강, 정신 건강과 감시 - 직장 내 건강 데이터

신체 건강 데이터 감시 - 데이터 오용 방지 ㆍ 건강 데이터로 많은 것을 알게 되는 회사 ㆍ 정신 건강 상담 서비스에 대한 보호 ㆍ 뇌파 감지 도구를 이용한 감시 ㆍ 목소리에서 정신 건강 문제 감지하기 ㆍ 정신 건강에 도움이 되는 대화형 앱 ㆍ 음성 바이오마커 기술을 이용한 조기 진단 ㆍ 뇌에서 얻은 개인 정보

10장 알고리즘, 해고도 문제 없지 - 문제 직원 찾기

알고리즘에 의한 해고 사례 ㆍ 알고리즘이 정한 규칙을 따르지 않으면 해고 ㆍ 알고리즘의 자동 해고 ㆍ 미래, 알고리즘이 지배하는 시대

마치며 - 예측 사회에서 살아가기

우리의 미래는 어떤 모습일까? ㆍ 사회적 결과를 예측하는 것이 과연 가능할까? ㆍ 과거로 다시 돌아갈 수 있을까? ㆍ AI 도구에서 신경과학 도구로... ㆍ 암울한 미래를 대비하며

부록 - 구직 및 사내 감시 대처 팁

구직자를 위한 팁 ㆍ 감시당하고 있는 직원을 위한 팁

감사의 글

[본 문]

채용 프로세스에 인공지능 기술을 도입한 HR 테크 벤더들의 한결 같은 약속은 이러한 도구가 편견 없이 더 적은 비용으로 더 짧은 시간에 가장 적합한 후보자를 찾아준다는 것입니다. HR 벤더들은 민주화된 채용 프로세스 아이디어를 상품으로 파는 격인데, 그들은 인공지능 알고리즘이 모든 이력서를 검토하고 모든 후보자에게 동일한 방식으로 점수를 매기기 때문에 모든 후보자에게 공정한 기회가 부여된다고 주장합니다. 〈 중략 〉 인공지능이 신입사원 채용에만 활용되는 것은 아닙니다. 이제 기업들은 예측 분석을 통해 직원 중 누가 ‘이탈 위험군’(1년 이내 퇴사 가능성이 있는 사람)에 속하는지, 누가 성과가 높은지, 누가 다른 직원을 괴롭히는지, 누가 승진 대상자이어야 하는지, 누가 해고되어야 할지를 파악합니다. - '들어가며'에서

이 스크리너는 기본적으로 지원자들의 이력서를 수집하고, 예전에 지원했던 지원자들의 이력서에 있는 패턴과 새로 지원한 지원자들의 이력서를 비교해서 해당 지원자가 회사에 적합한지를 예측하는 방식이었습니다. 〈 중략 〉 이력서 스크리너는 채용에 ‘성공해서’ 재직하고 있는 직원의 이력서를 분석하고, 특정 직무를 제대로 할 수 있을 것으로 예측되는 여러 패턴과 키워드를 찾습니다. 그런 다음에 입사 지원자가 제출한 이력서를 분석해서 일치하는 패턴과 키워드가 이력서에 들어 있는지를 확인합니다. 〈 중략 〉 키워드를 기반으로 채용한 후 업무를 성공적으로 수행할 것이라고 예측하는 이력서 스크리너에 있었습니다. 하지만 특정 직무에서의 성공 가능 여부 예측을 키워드 패턴으로 판단함에 있어 AI 도구에 전적으로 의존하는 것에는 문제가 있습니다. - 1장에서

예측 도구는 우리가 일하면서 작성하는 텍스트와 소셜 미디어에 올리는 글을 사용해서 우리의 성격을 분석하고 행동을 예측합니다. (텍스트와 글이 많으면 많을수록 좋습니다.) - '2장'에서

어려운 기술의 수명은 점점 더 짧아지고 있습니다. 우리는 먼저 지원자의 잠재력을 중점적으로 본 다음에 업무 적격성을 살펴본 다음에 채용 여부를 결정해야 합니다. 〈 중략 〉 이것이 많은 게임이 안고 있는 핵심적인 문제입니다. 지원자가 직무의 핵심 업무를 얼마나 잘 수행할 수 있는지를 측정하는 것이 아니라 직무에 적합한 인성을 갖추고 있는지를 평가합니다. - '3장'에서

하이어뷰가 설득력 있게 말하는 사람들에게 더 높은 점수를 준다는 것을 발견했습니다. “높은 점수를 받은 이들은 모두 적절한 단어를 사용해서 말을 하였으며, 말투와 음조와 속도가 명확하고 이해하기도 쉬웠습니다. 그런데 그들의 말에 내용은 없었습니다. 질문에 대한 답변을 하는 것이 아니라 그냥 듣기에만 좋은 말을 했습니다.” 인공지능과 사람 모두 이 점을 파악하지 못하고 놓칠 수 있습니다. 뱅크스에 따르면 설득력 있는 사람들이 채용에 성공한다고 합니다. 〈 중략 〉 업무상의 얼굴 표정을 측정하는 것이 아니라 면접에서의 얼굴 표정을 측정합니다. 이는 면접을 본 어떤 지원자의 얼굴 표정, 근본적인 감정, ‘사고 스타일’이 해당 지원자가 특정 직무에서의 수행 성과와 밀접한 관련이 있는지 장담할 수 없다는 것을 의미합니다. - '4장'에서

벤더들은 AI 기반 영상 면접과 AI 게임이 (거의) 모든 사람에게 효과가 있을 것이라고 자신 있게 주장합니다. 한 개의 알고리즘으로 모든 근로자의 생산성을 설정하거나 한 가지 채용 테스트로 모든 지원자를 분석할 수 있다고 하니, 경영자들은 이들 도구를 선택할 수밖에 없습니다. 하지만 장애인에게도 이들 도구가 공정하게 작동할까요? - '6장'에서

HR은 예측 분석 도구를 사용하여 회사 내부 직원을 알아보면서, 이전에는 보이지 않았던 직원들의 재능과 조직 내 새로운 리더를 찾으려는 노력을 기울이고 있습니다. 일부 연구자들은 이러한 트렌드를 ‘조용한 채용’이라고 부릅니다. - '7장'에서

감시 데이터를 선의의 목적으로 사용하는 회사도 있지만, 수집된 데이터가 쉽게 오용될 수도 있습니다. 예를 들어 직원들의 전자 카드 데이터를 사용하여 ‘높은’ 성과자를 찾아 승진에 활용했던 회사가 ‘낮은’ 성과자를 찾아 해고하는 데도 같은 데이터를 활용하려고 했던 사례가 있습니다. 〈 중략 〉 AI 기반 음성 도구가 조만간 우리의 목소리를 실시간으로 변화시켜 더 단조롭거나 더 행복하게 변조할 수 있다는 점입니다. 가령, 구직자가 이 기술을 사용하여 자신의 목소리를 더 ‘명랑한’ 소리로 만들 경우 음성 바이오마커 업계는 물론이고 기업의 인사 관리자도 고민에 빠질 것입니다. - '9장'에서

아마존 관리자들이 알고리즘과 기술을 활용해 아마존 물류센터 직원들을 추적하고, 징계하며, 해고하는 모습을 직접 목격했습니다. 〈 중략 〉 알고리즘으로 설정된 “생산성 기준”을 충족하지 못했다는 이유로 해고하고 있다고 진술했습니다. - '10장'에서

엘리자 그리즐월드 (<Amity and Prosperity>으로 퓰리처상을 수상한 작가)

힐케 셸만은 혼란스럽고 무법천지 같은 AI 세계를 매우 읽기 쉽고 이해하기 쉽게 풀어냈습니다. 셸만은 기술 혁신과 시장의 어둡고 숨겨진 역사를, 그 오류로 인생이 파괴된 사람들의 이야기를 이 책에서 들려줍니다.

라이언 풀러 (전 마이크로소프트 워크스페이스 인텔리전스 부문 부사장)

힐케 셸만은 우리 시대의 가장 중요한 주제 중 하나로, 우리가 인식하는 것보다 훨씬 더 우리 모두에게 영향을 미치는 주제에 대해 쓰고 있습니다. 이 책은 직장에서의 AI 현황을 균형 있게 조명합니다. 엄청난 이점이나 종말 시나리오에 대한 이야기가 아니라, AI 도구의 현재 상태, 확산을 부추기는 인센티브 시스템, AI가 제공하는 다양한 결과, 그리고 더 나은 결과를 보장할 수 있는 방법에 대한 현실적인 시각을 제시합니다. 이 책을 강력하게 추천합니다.

이비드 퓨트렐 (전 월마트 조직 성과 담당 수석 이사)

AI가 조직의 중요한 업무 결정에 어떤 변화를 가져오는지에 대한 새롭고 중요한 관점을 제공합니다. 그녀의 연구는 철저하고 통찰력 있으며, 인공지능과 그 추종자들이 기업과 직원들에게 이미 초래한 수많은 문제점을 자세히 드러내고 있습니다.

커커스 리뷰

채용, 해고, 직원 감시에 인공지능 시스템이 사용되는 실태를 적나라하게 파헤친 충격적인 책입니다. 셸먼은 인공지능이 우리 삶의 중요한 영역에 침투했지만, 그 과정이 너무나 빠르고 조용해서 그 영향력이 거의 눈에 띄지 않는다고 지적합니다. 그녀는 인사 담당자들이 AI 알고리즘의 작동 방식을 이해해야 하며, 인사 결정에 인간의 개입이 더욱 강화되어야 한다고 주장합니다. 이 책을 읽고 나면 그녀의 주장에 반박하기 어려울 것입니다.

클레이 셔키 (<Cognitive Surplus>와 <Here Comes Everybody>의 저자)

힐케 셸만은 인공지능이 노동자들에 대한 ‘판결을 내린다’라는 위험성을 처음으로 인식한 언론인 중 한 명이며, 이 책은 오늘날 이미 우리에게 작동하고 있는 인공지능의 위험과 폐해를 다룬 매우 중요한 책입니다.

로보노믹스

알고리즘 기술에 대한 인간 중심적 접근을 촉구하는 시의적절하고 필수적인 책입니다.