Школьник нашёл способ обойти AI-алгоритм и получать 10 из 10 на тестах

Американский семиклассник из Лос-Анджелеса Лазарь Симмонс «хакнул» алгоритм оценки на образовательной площадке Edgenuity, которую его школа использует для удалённой учёбы в период коронавируса. Чтобы получать отличные отметки, достаточно в рандомном порядке вводить в поле ответа ключевые слова по пройденной теме, сообщает The Verge.

Школьник нашёл способ обойти AI-алгоритм и получать 10 из 10 на тестах

Американский семиклассник из Лос-Анджелеса Лазарь Симмонс «хакнул» алгоритм оценки на образовательной площадке Edgenuity, которую его школа использует для удалённой учёбы в период коронавируса. Чтобы получать отличные отметки, достаточно в рандомном порядке вводить в поле ответа ключевые слова по пройденной теме, сообщает The Verge.

Лазаря очень расстроил результат в одном из тестов по истории — он набрал лишь 50%. Мама подростка Дана попыталась подбодрить его, но потом заметила, что знания детей на Edgenuity оценивает не живой учитель, а алгоритм, поскольку сайт выдаёт отметку меньше чем за секунду после отправки ответа.

Женщина проанализировала «правильные ответы» на другие вопросы, которые система раскрывала в конце проверки. Оказалось, что AI просто ищет в тексте ответов ключевые слова, и исходя из этого подсчитывает баллы. Симмонс посоветовала сыну отвечать развёрнуто, вставляя максимум имён собственных, и стараться копировать ответы, которые «ожидает» система. Результативность Лазаря выросла до 80%.

Но 12-летний мальчик пошёл дальше: он решил писать по два полных предложения, а потом в произвольном порядке — набор главных слов из обучающих материалов. По словам матери, ребёнок стал получать высший балл по всем тестам.

В серии твитов Симмонс, которая является профессором истории, ставит под сомнение эффективность оценки успеваемости детей искусственным интеллектом. По её мнению, автоматизированные алгоритмы могут оказать более разрушительное воздействие на психику детей, чем кажется, и уничтожить их уверенность в себе.

Edgenuity содержит более 300 уроков для средней и старшей школы по разным школьным предметам и факультативам, а также видеолекции, задания, тесты и экзамены. Платформа никак не прокомментировала ситуацию с оценками. На сайте говорится, что по некоторым вопросам, если ответ ученика не содержит ни одного ключевого слова, система может не засчитать его вообще, или же дать 100%, если есть хотя бы одно такое слово.

Похожим методом пользовался ещё один школьник, который учился по Edgenuity несколько лет назад. Он рассказывает, что иногда, когда вообще не разбирался в теме, вводил только ключевые слова, и чаще всего это срабатывало.

Хотите сообщить важную новость? Пишите в Телеграм-бот.

А также подписывайтесь на наш Телеграм-канал.

Горячие события

HRgile.club 2021 Online
23 апреля

HRgile.club 2021 Online

Минск

Читайте также

МТС запустил бесплатный онлайн-курс по интернет-грамотности для людей старшего возраста
МТС запустил бесплатный онлайн-курс по интернет-грамотности для людей старшего возраста
МТС запустил бесплатный онлайн-курс по интернет-грамотности для людей старшего возраста
Zoom запретила пользоваться своим софтом российскому госсектору
Zoom запретила пользоваться своим софтом российскому госсектору
Zoom запретила пользоваться своим софтом российскому госсектору
AI написал песню в стиле Nirvana
AI написал песню в стиле Nirvana
AI написал песню в стиле Nirvana
Скорость Starlink увеличилась в два раза
Скорость Starlink увеличилась в два раза
Скорость Starlink увеличилась в два раза
Спасибо! 

Получать рассылки dev.by про белорусское ИТ

Что-то пошло не так. Попробуйте позже