ИИ «заявил», что Конституция США была написана... искусственным интеллектом

Журналист издания ArsTechnica Бендж Эдвардс рассказал об эксперименте, проведённом при исследовании точности больших языковых моделей искусственного интеллекта — ChatGPT и подобных. Работал журналист с системой детектирования текстов, сгенерированных технологиями ИИ.

Речь идёт о таком инструменте, как GPTZero. В основе технологии лежит большая языковая модель, обученная на громадном объёме текста, состоящем из миллионов примеров письма и включающая набор предполагаемых правил, которые определяют, будет ли письмо с большей вероятностью сгенерировано человеком или искусственным интеллектом.

Несмотря на это «точные» системы могут вполне дать сбой при определении таких сложных и многомерных текстов, как Библия и подобные фолианты, а также Конституция США.

При детектировании текста Конституции система GPTZero выдала определение, согласно которому Конституция США написана искусственным интеллектом. Ошибка систем ИИ кроется в том, что они имеют такую функцию детектирования, как «недоумение» — насколько выходные данные, сформированные при анализе, близки к тому материалу, на котором языковую модель обучали.

Похожие новости

Добавить комментарий

Нам важно знать ваше мнение. Оставьте свой отзыв или ответ

    • bowtiesmilelaughingblushsmileyrelaxedsmirk
      heart_eyeskissing_heartkissing_closed_eyesflushedrelievedsatisfiedgrin
      winkstuck_out_tongue_winking_eyestuck_out_tongue_closed_eyesgrinningkissingstuck_out_tonguesleeping
      worriedfrowninganguishedopen_mouthgrimacingconfusedhushed
      expressionlessunamusedsweat_smilesweatdisappointed_relievedwearypensive
      disappointedconfoundedfearfulcold_sweatperseverecrysob
      joyastonishedscreamtired_faceangryragetriumph
      sleepyyummasksunglassesdizzy_faceimpsmiling_imp
      neutral_faceno_mouthinnocent

Комментариев 0

Новые обсуждения на Форуме