iPhonesia.ru » Новости » ИИ Facebook начитался переписок и стал расистским

ИИ Facebook начитался переписок и стал расистским




Компания Facebook (запрещена в РФ) выпустила новый инструмент, который можно использовать для быстрой разработки современного искусственного интеллекта. Но, по словам исследователей компании, у системы та же проблема, что и у ее предшественников: она крайне плохо справляется с результатами, которые усиливают расистские и сексистские стереотипы.

Новая система, получившая название OPT-175B (Open Pretrained Transformer), представляет собой своего рода шаблон, известный как большая языковая модель, набор предварительно обученных компонентов, которые все чаще используются в инструментах машинного обучения, обрабатывающих человеческий язык.


В документе, сопровождающем релиз, исследователи Meta Platforms (материнская компания Facebook; запрещена в РФ и признана экстремистской организацией) пишут, что модель «имеет высокую склонность генерировать токсичный язык и укреплять вредные стереотипы, даже когда ей предоставляется относительно безобидная подсказка». Это означает, что легко получить предвзятые и вредные результаты, даже если вы не пытаетесь. Система также уязвима для «враждебных подсказок», когда небольшие тривиальные изменения во фразах могут использоваться для обхода системных мер безопасности и создания токсичного контента.

Исследователи также предупреждают, что система имеет еще более высокий риск генерирования токсичных результатов, чем ее предшественники. Они подозревают, что это отчасти связано с обучающими данными, включая нефильтрованный текст, взятый из разговоров в социальных сетях, что увеличивает склонность модели как распознавать, так и генерировать язык ненависти.

Помимо OPT-175B, предыдущие языковые модели, такие как GPT-3 от OpenAI и PaLM от Google, также показали расистские и предвзятые результаты, а исследователи не представили четкого пути к уменьшению вреда.

ТЕГИ: Facebook
© iPhonesia.ru
Присоединяйтесь к нам во «ВКонтакте», Twitter, «Яндекс.Дзен» или через RSS-канал.

vice.com


      [ регистрация на сайте ]