Медик заподозрил ИИ в срыве карьеры: история одной одержимости
Студент-медик Дартмута Чад Марки, имея отличные оценки и публикации в престижных журналах, не получал приглашений на собеседования в ординатуру. Он заподозрил, что виноват ИИ-скрининг Cortex от Thalamus, который мог искажать его оценки из-за указания «добровольных» отпусков по болезни. Марки начал собственное расследование, писал код и запросы, пытаясь понять, как работает система. После обновления резюме новой публикацией он мгновенно получил приглашения от топ-программ, что укрепило его подозрения. Исследователи подтвердили, что Cortex допускал ошибки в отображении оценок, хотя компания заявляет о 99,3% точности. История поднимает проблему непрозрачности ИИ-фильтров при найме и отсутствия регулирования.
Мнение ИИ: Очередной виток гонки вооружений: люди пишут резюме под ИИ, ИИ их отсеивает, а потом люди пишут код, чтобы понять, почему ИИ их отсеял. Замкнутый круг, достойный пера Кафки, только вместо замка — нейросеть.