Школьник нашёл способ обойти AI-алгоритм и получать 10 из 10 на тестах

Американский семиклассник из Лос-Анджелеса Лазарь Симмонс «хакнул» алгоритм оценки на образовательной площадке Edgenuity, которую его школа использует для удалённой учёбы в период коронавируса. Чтобы получать отличные отметки, достаточно в рандомном порядке вводить в поле ответа ключевые слова по пройденной теме, сообщает The Verge.

Оставить комментарий
Школьник нашёл способ обойти AI-алгоритм и получать 10 из 10 на тестах

Американский семиклассник из Лос-Анджелеса Лазарь Симмонс «хакнул» алгоритм оценки на образовательной площадке Edgenuity, которую его школа использует для удалённой учёбы в период коронавируса. Чтобы получать отличные отметки, достаточно в рандомном порядке вводить в поле ответа ключевые слова по пройденной теме, сообщает The Verge.

Лазаря очень расстроил результат в одном из тестов по истории — он набрал лишь 50%. Мама подростка Дана попыталась подбодрить его, но потом заметила, что знания детей на Edgenuity оценивает не живой учитель, а алгоритм, поскольку сайт выдаёт отметку меньше чем за секунду после отправки ответа.

Женщина проанализировала «правильные ответы» на другие вопросы, которые система раскрывала в конце проверки. Оказалось, что AI просто ищет в тексте ответов ключевые слова, и исходя из этого подсчитывает баллы. Симмонс посоветовала сыну отвечать развёрнуто, вставляя максимум имён собственных, и стараться копировать ответы, которые «ожидает» система. Результативность Лазаря выросла до 80%.

Но 12-летний мальчик пошёл дальше: он решил писать по два полных предложения, а потом в произвольном порядке — набор главных слов из обучающих материалов. По словам матери, ребёнок стал получать высший балл по всем тестам.

В серии твитов Симмонс, которая является профессором истории, ставит под сомнение эффективность оценки успеваемости детей искусственным интеллектом. По её мнению, автоматизированные алгоритмы могут оказать более разрушительное воздействие на психику детей, чем кажется, и уничтожить их уверенность в себе.

Edgenuity содержит более 300 уроков для средней и старшей школы по разным школьным предметам и факультативам, а также видеолекции, задания, тесты и экзамены. Платформа никак не прокомментировала ситуацию с оценками. На сайте говорится, что по некоторым вопросам, если ответ ученика не содержит ни одного ключевого слова, система может не засчитать его вообще, или же дать 100%, если есть хотя бы одно такое слово.

Похожим методом пользовался ещё один школьник, который учился по Edgenuity несколько лет назад. Он рассказывает, что иногда, когда вообще не разбирался в теме, вводил только ключевые слова, и чаще всего это срабатывало.

Хотите сообщить важную новость?

Пишите в наш Телеграм

Читайте также

Как работают алгоритмы Facebook, Youtube, Twitter, Instagram. И как их усмирить
Как работают алгоритмы Facebook, Youtube, Twitter, Instagram. И как их усмирить
Как работают алгоритмы Facebook, Youtube, Twitter, Instagram. И как их усмирить
У человечества масса причин опасаться созданных своими же руками алгоритмов искусственного интеллекта. Автор статьи для Mashable Крис Тейлор рассказывает, как алгоритмы соцсетей определяют, какой и чей контент (не) предстанет перед глазами пользователей. Публикуем перевод статьи.
1 комментарий
Власти США разрешили Intel поставлять свою продукцию Huawei
Власти США разрешили Intel поставлять свою продукцию Huawei
Власти США разрешили Intel поставлять свою продукцию Huawei
В Германии разработали генератор текста, который превосходит GPT-3, но имеет в сотни раз меньше параметров
В Германии разработали генератор текста, который превосходит GPT-3, но имеет в сотни раз меньше параметров
В Германии разработали генератор текста, который превосходит GPT-3, но имеет в сотни раз меньше параметров
Пользователи заподозрили алгоритм Twitter в расизме. Компания ответила, что им показалось
Пользователи заподозрили алгоритм Twitter в расизме. Компания ответила, что им показалось
Пользователи заподозрили алгоритм Twitter в расизме. Компания ответила, что им показалось
1 комментарий

Обсуждение

Комментариев пока нет.
Спасибо! 

Получать рассылки dev.by про белорусское ИТ

Что-то пошло не так. Попробуйте позже