Понад половину есе, які були написані не носіями англійської мови, було помилково помарковано як такі, що містять ознаки штучного інтелекту.
Про це пише The Guardian.
Вчені досліджували, як добре програми виявляють статті, написані людьми, які не розмовляють англійською мовою на рівні рідної. Виявилося, що програми часто помилково позначають такі статті як написані штучним інтелектом. У дослідженні було перевірено понад 90 англійських есе, написаних не носіями мови, і виявлено, що більшість програм помилково позначають їх як створені штучним інтелектом.
А коли програми перевіряли англійські есе, написані американськими учнями, вони позначали їх як написані людьми у 90 % випадків. Вчені з’ясували, що причина в тому, як програми оцінюють текст. Мовні моделі, такі як ChatGPT, навчені генерувати текст із низькою складністю, тому вони помилково позначають простий текст, написаний людиною, як створений штучним інтелектом. А не носії англійської використовують простіші вирази, ніж носії.
Після виявлення цієї проблеми вчені попросили ChatGPT переписати есе так, щоб воно виглядало складніше. Коли такі відредаговані есе було знову перевірено програмами, їх уже помилково позначили як написані людьми.
Вчені попереджають, що це може призвести до негативних наслідків для людей, які не є носіями англійської, оскільки програми неправильно позначають їх заявки на вступ до коледжів або робочі заявки як створені штучним інтелектом. Вони також зазначають, що це може призвести до дискримінації дописів, створених такими людьми в інтернеті, оскільки пошукові системи знижують рейтинг матеріалів, які вони вважають згенерованими штучним інтелектом.
