Защо AI моделите се затрудняват да откриват онлайн език на омразата

На 18 юни, по повод Международния ден за противодействие на езика на омразата, ООН предупреждава, че социалните платформи усилват заплахата, тъй като враждебни послания се разпространяват бързо чрез анонимни онлайн профили. Според дефиницията на ООН, „език на омразата“ е всяка комуникация – словесна, писмена или поведенческа – която дискриминира или подбужда към насилие срещу човек или група въз основа на реална или предполагаема идентичност, раса, етнос, религия, пол, сексуална ориентация или увреждане; може да се прояви и чрез изображения, карикатури, жестове или предмети. Данни от съвместно проучване на Ipsos и UNESCO от 2023 г. сред 8 000 души в 16 държави показват, че над две трети от интернет потребителите са срещали език на омразата онлайн. 33% от анкетираните смятат, че LGBTQI хората са най-често засегнати, следвани от етнически и расови малцинства (28%) и жени (18%). Al Jazeera описва как платформите все по-често разчитат на AI и големи езикови модели за модериране, но резултатите са непоследователни. Проучване от 2025 г. на Университета на Пенсилвания, оценило седем системи (включително модели на OpenAI, Anthropic, DeepSeek, Mistral и Google), отчита значителни разлики в класифицирането и оценяването на омразно съдържание и риск от пристрастия. Пример за колебания в практиките са различните подходи на компании: Meta е премахнала 1,3 млн. публикации от Instagram и 1,3 млн. от Facebook през последното тримесечие на 2025 г., спрямо 7,4 млн. и 5,8 млн. през четвъртото тримесечие на 2024 г., след промяна към повече потребителски сигнали; TikTok съобщава, че през четвъртото тримесечие на 2025 г. е премахнала 96,3% от омразното съдържание преди да бъде докладвано. Експерти посочват, че AI често пропуска „имплицитна“ омраза без обиди и понякога погрешно маркира „възвърнат“ език, използван вътре в общности.