Investing.com — В письме, выпущенном некоммерческим Институтом будущего жизни и подписанном более чем 1000 экспертами, включая Илона Маска, содержится рекомендация для руководителей отрасли искусственного интеллекта взять как минимум 6-месячную паузу в разработке систем, более мощных, чем недавно запущенный фирмой OpenAI чат-бот GPT-4 в связи с потенциальными рисками для общества и человечества, пишет Reuters.
Компания OpenAI, поддерживаемая Microsoft, представила четвертую итерацию своей программы искусственного интеллекта GPT (Generative Pre-trained Transformer), которая поразила пользователей широким спектром возможностей, от вовлечения в беседу с человеком до сочинения песен и обобщения длинных документов.
Эксперты призывают приостановить разработку продвинутого ИИ до тех пор, пока не будут разработаны, внедрены и проверены независимыми экспертами общие протоколы безопасности для таких проектов.
«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а риски управляемыми», — говорится в письме.
В числе указанных потенциальных рисков ИИ для общества и цивилизации упомянуты экономические и политические потрясения, а также содержится призыв к разработчикам сотрудничать с политиками и регулирующими органами.
Институт будущего жизни в основном финансируется Фондом Маска, а также лондонской группой эффективного альтруизма Founders Pledge и Фондом сообщества Силиконовой долины.
Европол в понедельник высказал этические и юридические опасения по поводу передового ИИ, такого как ChatGPT, предупредив о потенциальном злоупотреблении системой для фишинга, дезинформации и киберпреступности.
— При подготовке использованы материалы Reuters
Следите за нашими новостями в социальных сетях: Telegram, «ВКонтакте» и «Одноклассниках».