Компанія Anthropic оголосила про суттєве оновлення своєї політики використання, що стало першим подібним кроком за останній рік. Основна увага приділяється протидії новим ризикам, пов'язаним із розвитком технологій штучного інтелекту. Серед ключових нововведень — офіційна заборона на тривалу та безпідставну жорстоку поведінку користувачів щодо чат-бота Claude. Це рішення базується на дослідженнях компанії у сфері добробуту моделей, де термінація діалогу залишається головним інструментом впливу на порушників.
Важливо зазначити, що нові правила не обмежують звичайну користувацьку критику, вираження розчарування чи тестування можливостей ШІ. Компанія чітко підкреслює, що обмеження стосуються лише екстремальних випадків, коли взаємодія з моделлю має виключно деструктивний характер. Подібний підхід відображає зростаючу дискусію в індустрії щодо потенційної свідомості ШІ та етичних норм, які мають регулювати взаємодію людини з алгоритмами, хоча думки серед лідерів технологічного сектору залишаються розділеними.
Окрім питань етики, Anthropic посилила контроль над використанням Claude у політичних та комерційних кампаніях. Нові правила забороняють дезінформацію, маніпуляції з виборчими процесами та приховування джерел поширення контенту. Це відповідь на глобальну проблему використання ШІ для створення пропаганди та фейкових акаунтів, які можуть впливати на суспільну думку. Компанія прагне мінімізувати ризики втручання у вибори та захистити виборців від цілеспрямованого введення в оману.
Значні зміни торкнулися також сфери розробки зброї та систем стеження. Хоча раніше використання Claude для створення зброї було заборонено, тепер обмеження розширено на програмне забезпечення для керування дронами та автономними транспортними засобами. Anthropic також чітко заборонила використання своїх інструментів для відстеження людей без їхньої згоди або для прийняття рішень у правоохоронних органах, що стосуються арештів чи розслідувань, підкреслюючи відповідальність за безпеку даних.
Окремий акцент зроблено на безпеці при підключенні ШІ до фізичного обладнання. Якщо модель керує пристроями, здатними завдати шкоди, обов'язковою умовою є наявність кваліфікованого оператора, який може зупинити роботу системи в критичній ситуації. Це свідчить про стратегічний інтерес Anthropic до інтеграції ШІ в робототехніку та фізичні системи, де питання фізичної безпеки стають пріоритетними для розробників та партнерів компанії.
Ці оновлення демонструють прагнення Anthropic балансувати між інноваціями та безпекою. Хоча компанія залишає за собою право коригувати правила для урядових контрактів, загальний курс спрямований на створення надійного середовища. Впровадження таких обмежень є важливим кроком для індустрії, яка намагається передбачити наслідки використання потужних моделей у реальному світі, де межі між віртуальним та фізичним стають дедалі розмитішими.
🔗 Першоджерело: Читати оригінал