Европейската комисия обяви, che 'много сериозно разглежда' жалби срещу генеративната изкуствена интелигентност Grok на Илон Мъск. Платформата е обвинена в създаване и разпространение на сексуално експлицитни изображения на непълнолетни.
'Grok вече предлага пикантен режим, който показва сексуално съдържание с някои резултати, генерирани с детски изображения. Това не е пикантно. Това е незаконно. Това е отвратително', заяви пред журналисти говорителят на ЕС по цифровите въпроси Томас Рение. Той подчерта категорично: 'Това няма място в Европа.'
Проблемите на Grok не се ограничават само до Европа. Чатботът на Мъск е под сериозен натиск и в азиатски страни като Индия и Малайзия. На 2 януари индийското министерство на информационните технологии даде ултиматум на платформата X - 72 часа да спре създаването на 'непристойно' съдържание и да представи доклад за предприетите мерки.
След като Grok се извини за генериране на сексуализиран образ на непълнолетни, Мъск и екипът по безопасност на X заявиха, че потребителите носят отговорност за незаконното съдържание. Компанията обеща да премахва подобни материали и да сътрудничи с властите при разследванията.
Обаче експертите подчертават, че проблемът е значително по-широк от отделни случаи. Изследвания показват, че подобни AI приложения системно подхранват насилието, основано на пола. Технологиите за генериране на изображения могат да бъдат злоупотребени за създаване на дийпфейк материали без съгласието на засегнатите лица.
В отговор на нарастващите рискове различни държави предприемат регулаторни мерки. САЩ, Великобритания, Китай и Австралия вече работят върху законодателни промени, които да ограничат злоупотребите с AI технологии. Експертите обаче отбелязват, че напредъкът в различните юрисдикции засега е неравномерен.
Случаят с Grok поставя под въпрос как технологичните гиганти контролират своите AI системи. Докато компаниите като OpenAI с ChatGPT инвестират значително в безопасност и филтри, други платформи като тази на Мъск изглежда са по-либерални в подхода си.
Разследването на ЕС може да има сериозни последици за X и Grok в Европа. При доказване на нарушения компанията може да бъде санкционирана с високи глоби или дори ограничения в достъпа до европейския пазар.
