Компанія Anthropic, яка створила ШІ-модель Claude, закликала індустрію штучного інтелекту сповільнити темпи розвитку через ризики втрати контролю над технологіями. У компанії попереджають, що ШІ може стати здатним самостійно створювати свої наступні версії.
Розробники однієї з найвідоміших моделей штучного інтелекту Claude, компанія Anthropic, публічно заявили, що світовій індустрії варто пригальмувати темпи розвитку ШІ, щоб людство встигло адаптуватися до нових технологічних ризиків і не втратило контроль над системами, які стають дедалі потужнішими.
У компанії пояснюють, що штучний інтелект уже сьогодні активно бере на себе дедалі складніші завдання, і його роль у роботі розробників постійно зростає. Зокрема, зазначається, що модель Claude вже зараз пише понад 80% програмного коду компанії, тоді як до запуску інструменту Claude Code на початку 2025 року цей показник був значно нижчим.
Фахівці попереджають, що наступним етапом розвитку може стати ситуація, коли штучний інтелект отримає здатність самостійно проєктувати й створювати нові версії самого себе. У компанії це явище називають рекурсивним самовдосконаленням і визнають, що воно може як прискорити технологічний прогрес, так і створити серйозні загрози. «Повне рекурсивне самовдосконалення може збільшити ризики втрати людьми контролю над системами ШІ. Якщо системи здатні повністю створювати своїх наступників, то способи їхнього захисту, моніторингу та формування поведінки стають набагато важливішими», — застерігають у Anthropic.
У компанії наголошують, що без спільних міжнародних правил розвитку ситуація може вийти на рівень конкурентного тиску між компаніями та державами, коли безпека відходитиме на другий план. Саме тому там закликають до більш обережного підходу та можливого тимчасового уповільнення розробки передових моделей.
«Без глобального механізму координації компаніям та урядам доведеться приймати складні рішення щодо безпеки, перебуваючи під конкурентним та геополітичним тиском. Ми вважаємо, що було б добре для світу мати можливість уповільнити або тимчасово призупинити розвиток передового штучного інтелекту, щоб дозволити суспільним структурам встигати за розвитком технології», — йдеться в позиції розробників Claude.
Таким чином, одна з провідних компаній у сфері ШІ вперше прямо заявляє про необхідність гальмування темпів розвитку технологій, які ще вчора вважалися головним двигуном майбутнього, але сьогодні вже викликають питання щодо безпеки та контролю. Про це повідомляють у самій компанії Anthropic.
Американська технологічна компанія Apple вилучила російський месенджер Max зі свого магазину додатків App Store. Відтепер застосунок недоступний для завантаження користувачами пристроїв Apple. Причини такого рішення офіційно не повідомляються. Раніше месенджер Max позиціонувався як один із російських цифрових сервісів для обміну повідомленнями та комунікації між користувачами.
Apple готує смарт-окуляри для виходу на ринок до 2027 року — Bloomberg.
Нагадаємо, у Південній Кореї арештували ютубера за фейкове аудіо зі ШІ.
Функція Огляд ШІ від Google видає мільйони помилкових відповідей щогодини— NYT.
Нагадаємо, Японія масово замінює людей роботами через демографічну кризу.
Також у Gemini з’явиться моніторинг психічного здоров’я після судових позовів.
Увесь інсайд та актуальна інформація на нашому Телеграм-каналі, а також бонуси та швидкі новини
