ИИ-рекрутёр может предпочесть резюме, написанное той же нейросетью

Этим летом юридическая фирма Addleshaw Goddard искала ИТ-специалиста в свой отдел кадров и получила 178 откликов. Эту историю рассказала Пилита Кларк из Financial Times. Годом раньше, по её оценке, на такую должность прислала бы резюме от силы пара десятков человек: с ИИ откликаться стало быстро и легко.

Отдел кадров поставил опыт: люди отобрали около дюжины заявок, а дальше их оценили и сотрудники, и ИИ-агент, которому описали вакансию и требования, включая опыт работы с ИИ. Списки лучших не совпали.

Агенту понравились «глянцевые» резюме: кандидаты, по их словам, совершали ИТ-подвиги в рекордные сроки или вели крупные проекты при скромном опыте. Слишком хорошо, чтобы быть правдой, и отдаёт помощью ИИ, оценивает Кларк.

Руководитель отдела кадров фирмы предлагает одно из возможных объяснений: раз умение работать с ИИ было среди требований, агент мог принять следы ИИ в резюме за доказательство этого умения. Сама Кларк допускает и другое: агент мог предпочесть резюме просто потому, что их помогал писать ИИ. Обе версии — предположения.

Если верна вторая, пишет журналистка, это совпало бы с выводами рабочего доклада трёх исследователей. В октябре доклад ещё дорабатывали для рецензируемого журнала, и часть выводов может измениться. Но новые данные, по словам одного из авторов, по-прежнему говорят о том, что модели предпочитают своё.

Исследователи давали ИИ-моделям резюме, написанные человеком, самой моделью и другой моделью, с поправкой на качество содержания. Модели раз за разом выбирали своё. А в смоделированном отборе по 24 профессиям кандидат, писавший резюме той же моделью, что оценивает его у работодателя, попадал в короткий список на 23–60 % чаще, чем кандидат с той же квалификацией и резюме, написанным собственноручно.

Сильнее всего проигрывали те, кто писал резюме сам, — в деловых профессиях вроде продаж и бухгалтерии. Если ИИ пристрастен к ИИ, пишет Кларк, у соискателя появляется новый риск — оказаться кандидатом с «не тем» ИИ или вовсе без него.

По аннотации доклада, перекос удаётся сократить больше чем вдвое простыми приёмами, нацеленными на способность модели узнавать собственный текст. Судя по этому, модель выбирает своё потому, что узнаёт его.

Как узнала Кларк, место в Addleshaw Goddard в итоге получил кандидат, которого выбрали люди. У агента он первым не был.

Источники: Пилита Кларк, Financial Times, в перепечатке CNA, Xu, Li, Jiang. AI Self-preferencing in Algorithmic Hiring, arXiv