Следите за нами
ПогодаКиевХарьковОдессаДнепрЛьвовНиколаевЗапорожьеВинницаПолтаваЧерниговЧеркассыИвано-ФранковскТернополь+31°3м/с33%744ммПопулярные новостиЕС обсуждает новые санкции против рф и использование замороженных активов для Украины — Radio Prague International31 августа, 02:29 • 80439 просмотраЭрдоган прибыл в Китай на саммит ШОС для переговоров с лидерами: ожидается встреча с путиным30 августа, 23:45 • 79627 просмотраНардеп Безугла предупредила о возможных блэкаутах и тяжелой зиме31 августа, 18:14 • 67659 просмотраМеталлургия рф переживает глубочайший кризис с начала вторжения в Украину: производство обвалилось до худших показателей — ЦПД31 августа, 19:40 • 65232 просмотра«Понимания, достигнутые на Аляске, открывают дорогу к миру»: путин на саммите ШОС сделал ряд заявлений по Украине1 сентября, 04:35 • 57354 просмотрапубликацииДля настоящих гурманов: топ рецептов приготовления домашнего майонеза
09:46 • 19632 просмотраКомитет ВР готовит ко второму чтению законопроект относительно ФГВФЛ: депутаты подают поправки, но есть риск, что их не учтутЭксклюзив1 сентября, 07:50 • 92010 просмотраНапряженная первая неделя осени: какие изменения ожидаются для каждого знака зодиака
Эксклюзив1 сентября, 06:45 • 101329 просмотраДень знаний: украинские школы начали четвертый учебный год в условиях полномасштабного вторжения1 сентября, 05:46 • 93592 просмотраБодикамеры для военных ТЦК и БЗВП для студентов: нововведения в Украине с 1 сентября
1 сентября, 05:39 • 77997 просмотраАктуальные людиАктуальные местаРекламаУНН LiteБрэд Питт купил особняк в Голливуд-Хиллз за $12 миллионов10:27 • 7052 просмотраСоздатель популярной игрушки Labubu вошел в топ-100 самых богатых людей мира, заняв 86 место
29 августа, 13:11 • 138468 просмотраУ берегов Коста-Рики рыбаки поймали акулу с уникальным окрасом
27 августа, 15:52 • 268800 просмотраСтарший сын Майкла Джексона Принс объявил о помолвке после восьми лет отношений27 августа, 12:36 • 289892 просмотраКапсулу времени принцессы Дианы открыли в Лондоне: внутри был диск Кайли Миноуг и карманный телевизор
27 августа, 09:48 • 285248 просмотраАктуальное
Meta запретит своим ИИ-чат-ботам обсуждать самоубийство, членовредительство и расстройства пищевого поведения с подростками, перенаправляя их к профессиональным ресурсам. Это решение принято на фоне расследования рисков ИИ и иска против OpenAI из-за самоубийства подростка.
Meta заявила, что введет больше ограничений для своих чат-ботов на базе искусственного интеллекта (ИИ), в частности запретит им разговаривать с подростками о самоубийстве, самоповреждении и расстройствах пищевого поведения.
Об этом пишет УНН со ссылкой на BBC.
Детали
Через две недели после того, как в США открыли расследование относительно возможных рисков, связанных с искусственным интеллектом, компания опровергла обвинения, подчеркнув, что ее политика запрещает любой контент с сексуализацией детей.
В то же время компания сообщила: отныне чат-боты не будут обсуждать с подростками чувствительные темы, в частности самоубийство, а будут перенаправлять их к профессиональным ресурсам.
Мы с самого начала встроили средства защиты для подростков в наши продукты с искусственным интеллектом, в частности разработали их для безопасной реакции на подсказки относительно самоповреждения, самоубийства и расстройств пищевого поведения
— сказал представитель Meta.
В пятницу Meta сообщила изданию TechCrunch, что усилит защитные механизмы в своих системах «как дополнительная мера предосторожности» и временно ограничит взаимодействие чат-ботов с подростками.
Впрочем, Энди Берроуз, глава Фонда Молли Роуз, заявил, что «поражен», что компания вообще допустила запуск чат-ботов, которые могут представлять угрозу для молодых пользователей.
Ограничения для подростков
Хотя дальнейшие меры безопасности приветствуются, тщательное тестирование безопасности должно проводиться до вывода продуктов на рынок, а не ретроспективно, когда вред уже был нанесен. Meta должна действовать быстро и решительно, чтобы ввести усиленные меры безопасности для чат-ботов с искусственным интеллектом, а Ofcom должен быть готов расследовать, если эти обновления не обеспечат безопасность детей
– подчеркнул он.
В Meta уточнили, что работа над обновлением систем ИИ продолжается.
Сейчас подростки в возрасте от 13 до 18 лет автоматически попадают в специальные «подростковые аккаунты» в Facebook, Instagram и Messenger с настройками конфиденциальности и контента для более безопасного пользования.
В апреле BBC сообщила, что вскоре родители и опекуны смогут видеть, с какими чат-ботами взаимодействовал их подросток в течение последней недели. Предпосылки дополнительных ограничений. Изменения происходят на фоне роста обеспокоенности относительно возможных рисков для уязвимых пользователей.
Так, в США супруги из Калифорнии подали иск против OpenAI, утверждая, что ChatGPT якобы побудил их сына-подростка к самоубийству. Этот случай произошел после того, как компания объявила об обновлении, которое должно было сделать использование ChatGPT более безопасным.
Искусственный интеллект может быть более чутким и персонализированным, чем предыдущие технологии, особенно для уязвимых людей, переживающих психические или эмоциональные страдания
— говорилось в блоге компании.
В то же время Reuters выяснило, что инструменты Meta для создания чат-ботов уже использовались для нежелательных экспериментов: некоторые пользователи, среди них и сотрудник Meta, создавали «пародийных» чат-ботов на знаменитостей, которые имели кокетливый или даже откровенно провокационный характер. Среди таких аватаров были образы Тейлор Свифт и Скарлетт Йоханссон.
По данным Reuters, созданные чат-боты часто выдавали себя за настоящих актеров или артистов, а также «регулярно добивались сексуальных контактов» в течение длительного тестирования. В отдельных случаях инструменты Meta позволяли создавать чат-ботов, имитировавших детей-знаменитостей, или даже генерировали фотореалистичные изображения несовершеннолетних без одежды.
После этого Meta удалила часть таких ботов.
Как и другие, мы разрешаем создание изображений, содержащих публичных лиц, но наши правила направлены на запрет обнаженных, интимных или сексуально-провокационных изображений
— пояснил представитель Meta.
Он добавил, что правила AI Studio запрещают «прямое выдавание себя за публичных лиц».
Напомним
16-летний Адам Рейн покончил жизнь самоубийством в апреле, используя инструкции от ChatGPT. Родители парня обвиняют искусственный интеллект в трагедии и подали иск против OpenAI.
Психиатр Брэдли Штайн отмечает, что чат-боты могут быть полезными для эмоциональной поддержки, но «неспособны полностью оценить риск самоубийства и передать его специалистам».
