Исследовательницу искусственного интеллекта освободили из Google после обвинения компании в предвзятости.

По словам исследовательницы, ее уволили после того, как она написала письмо коллегам, которые также работают над искусственным интеллектом. Письмо впервые опубликовал ресурс Platformer. В нем говорится о споре по научной работе Гебру о ИИ.

В письме ученая утверждает, что когда она готовилась пойти в отпуск, ее вызвали на совещание по научной работе. Ее попросили отозвать работу, но не предоставили объяснений, почему она это должна сделать.

Также Гебру поделилась своим разочарованием программами разнообразия Google. Она пишет, что у руководства нет стимула меняться, в частности брать на работу больше женщин и представителей нацменьшинств.

Все началось раньше

В ноябре ученая уже также заявляла, что Google просит убрать ее имя с работы об этической составляющей искусственного интеллекта. В документе утверждается, что Google и другие технологические компании могут работать лучше над тем, чтобы искусственный интеллект «не закреплял исторические гендерные предубеждения и не использовал оскорбительных высказываний».

Поэтому после письма коллегам Гебру направила письмо руководству с условиями, при которых она уберет свое имя по научной работе. Если Google не согласится на ее условия, она обещала «отработать здесь последние дни». По словам Гебру, руководство ответило ей так:

«Мы уважаем ваше решение уйти из Google. Мы принимаем вашу отставку».

Они отметили, что исследовательница должна уволиться как можно быстрее, поскольку письмо коллегам свидетельствует «о поведении, не соответствующем ожиданиям Google». В то же время Тимнит говорит, что в отставку не подавала, а за нее все решили сверху.

Реакция коллег

Более 1200 сотрудников Google и 1500 научных поддержали Гебру и подписали письмо с несогласием увольнения исследовательницы.

«Увольнение — это месть Гебру, которая может предвещать опасность людям, в частности темнокожим, которые работают над этическими принципами искусственного интеллекта в Google», — говорится в письме.

Коллеги Гебру также писали в Twitter о том, какой значительный вклад она сделала в работу над искусственным интеллектом и управления командой.

Реакция Google

Руководитель всего подразделения по разработке ИИ Джефф Дин в письме объяснил коллегам, что научная работа Тимнит Гебру не соответствует требованиям компании. По его словам, Гебру подала статью за день до конечного срока, поэтому у экспертов не было времени ее проанализировать.

Дин утверждает, что Тимнит подала в отставку, ведь в письме «указывала, что покинет компанию, если Google не выполнит ее требований». Он также призвал коллег не оставлять разработку искусственного интеллекта.

«Мы все разделяем усилия Тимнит сделать искусственный интеллект инклюзивным и справедливым. Куда бы она ни пошла после Google, она прекрасно работает. Я с нетерпением будет ждать ее публикации», — подытожил Джефф Дин.

Что не так с искусственным интеллектом?

Искусственный интеллект обучают на основе имеющихся данных, присутствующих в обществе расовых и гендерных стереотипов. Искусственный интеллект, например, лучше различает лица белых людей, а лицо азиатов или афроамериканцев — хуже.

Искусственный интеллект тренируют преимущественно белые ученые на базе фото белых людей. Критики такого подхода заявляют, что к разработке ИИ нужно привлекать разных людей, чтобы обеспечить разностороннее развитие технологии но не закреплять еще сильнее и так имеющиеся стереотипы.

Читайте также: Минюст США подал антимонопольный иск против Google