До июля Google изменит процедуры проверки работы своих ученых, согласно записи муниципалитета, услышанной Рейтер, в рамках усилий по подавлению внутреннего волнения по поводу целостности своих исследований в области искусственного интеллекта (ИИ).

В своем выступлении на собрании сотрудников в прошлую пятницу руководители Google Research заявили, что работают над восстановлением доверия после того, как компания уволила двух известных женщин и отказалась от их работы, согласно часовой записи, содержание которой было подтверждено двумя источниками.

Команды уже опробуют анкету, которая будет оценивать проекты на предмет рисков и помогать ученым ориентироваться в обзорах, заявила на встрече Мэгги Джонсон, главный операционный директор исследовательского подразделения. Это первоначальное изменение вступит в силу к концу второго квартала, и большинство документов не потребуют дополнительной проверки, сказала она.

В декабре агентство Reuters сообщило, что Google представил обзор «деликатных тем» для исследований, затрагивающих десятки вопросов, таких как Китай или предвзятость в его услугах. Рейтер сообщает, что внутренние рецензенты потребовали внести изменения как минимум в три статьи по ИИ, чтобы не выставлять технологии Google в негативном свете.

Джефф Дин, старший вице-президент Google, курирующий подразделение, заявил в пятницу, что обзор «деликатных тем» «сбивает с толку и вводит в заблуждение» и что он поручил старшему директору по исследованиям Зубину Гахрамани уточнить правила, согласно записи. .

Гахрамани, профессор Кембриджского университета, перешедший в Google в сентябре из Uber, сказал во время мэрии: «Нам нужно чувствовать себя комфортно с этим дискомфортом» самокритичных исследований.

Google отказался комментировать пятничную встречу.

Во внутреннем электронном письме, просмотренном Reuters, были представлены свежие подробности о проблемах исследователей Google, в которых показано, как именно юридический отдел Google изменил один из трех документов по ИИ под названием «Извлечение данных обучения из моделей большого языка».

Электронное письмо от 8 февраля от соавтора статьи Николаса Карлини было отправлено сотням коллег, стремясь привлечь их внимание к тому, что он назвал «глубоко коварными» правками юристов компании.

«Давайте проясним это», – говорилось в электронном письме примерно из 1 200 слов. «Когда мы, как ученые, пишем, что у нас есть« беспокойство »или что-то« беспокоит », а юрист Google требует, чтобы мы изменили его, чтобы он звучал лучше, это в значительной степени вмешивается Большой Брат».

Требуемые правки, согласно его электронному письму, включали замену «отрицательного на нейтральный», например, замену слова «опасения» на «соображения» и «опасности» на «риски». Юристы также потребовали удалить ссылки на технологии Google; открытие авторов, что ИИ слил контент, защищенный авторским правом; и слова «нарушение» и «чувствительность», говорится в электронном письме.

Карлини не ответила на запросы о комментариях. Google, отвечая на вопросы об электронном письме, оспорил свое утверждение о том, что юристы пытались контролировать тон газеты. Компания заявила, что у нее нет проблем с темами, исследуемыми газетой, но она обнаружила, что некоторые юридические термины использовались неточно, и в результате провела тщательное редактирование.

Аудит расовой справедливости

На прошлой неделе Google также назначил Мариана Кроака, пионера в области интернет-аудиотехнологий и одного из немногих черных вице-президентов Google, для объединения и управления 10 командами, изучающими такие вопросы, как расовая предвзятость в алгоритмах и технологиях для людей с ограниченными возможностями.

Крок сказал на встрече в пятницу, что потребуется время, чтобы развеять опасения исследователей этики ИИ и уменьшить ущерб, нанесенный бренду Google. «Пожалуйста, возложите на меня полную ответственность за попытку переломить эту ситуацию», – сказала она на записи.

Джонсон добавил, что организация, занимающаяся ИИ, привлекает консалтинговую фирму для широкомасштабной оценки воздействия на расовую справедливость. По ее словам, первый в своем роде аудит для департамента приведет к рекомендациям, «которые будут довольно сложными».

Напряженность в отделе Дина обострилась в декабре после того, как Google уволила Тимнит Гебру, соруководителя исследовательской группы по этическому ИИ, после ее отказа отозвать статью об ИИ, генерирующем языки. Гебру, которого зовут Блэк, обвинила компанию в том, что она рассматривала ее работу иначе из-за ее личности и в маргинализации сотрудников из недостаточно представленных слоев общества. Около 2700 сотрудников подписали открытое письмо в поддержку Gebru.

Во время мэрии Дин подробно рассказал, какую стипендию будет поддерживать компания. «Мы хотим ответственного ИИ и этичного расследования ИИ», – сказал Дин, приводя пример изучения экологических издержек технологий. Но он сказал, что проблематично приводить данные «с точностью до сотни», игнорируя при этом более точную статистику, а также усилия Google по сокращению выбросов. Дин ранее критиковал работу Гебру за то, что в нее не вошли важные выводы о воздействии на окружающую среду.

Гебру защитила цитату из своей статьи. «Это действительно плохой взгляд на то, что Google выступает в защиту статьи, на которую ссылаются многие из их коллег», – сказала она Рейтер.

Сотрудники продолжали публиковать сообщения о своих разочарованиях за последний месяц в Твиттере, поскольку Google расследовал, а затем уволил Маргарет Митчелл, соруководителя по этике ИИ, за перенос электронных файлов за пределы компании. Митчелл заявила в Твиттере, что она действовала «для того, чтобы выразить обеспокоенность по поводу расового и гендерного неравенства, а также рассказать о проблемах, которые Google уволил доктора Гебру».

Митчелл сотрудничал с газетой, которая спровоцировала уход Гебру, и версией, опубликованной в прошлом месяце в Интернете без участия Google, названной «Шмаргарет Шмитчелл» в качестве соавтора.

На вопрос о комментариях Митчелл через поверенного выразила разочарование критикой газеты Дином и сказала, что ее имя было удалено по распоряжению компании.

By admin

Leave a Reply

Your email address will not be published. Required fields are marked *