Скидки горят! План такой: «сверхразумный» искусственный интеллект будет контролировать остальные ИИ
7/6/2023
Артур ГоловинКомпания OpenAI формирует команду для создания систем «сверхразумного» ИИ и контроля над ними. Об этом сообщается в ее корпоративном блоге.
По прогнозу компании, искусственный интеллект станет умнее человека уже в этом десятилетии. Однако предсказать, каким будет поведение и цели искусственного разума, невозможно, поэтому необходимо контролировать разработку сверхразумных ИИ-систем и продумать способы их обуздания. Пока таких решений не существует.
Новую группу (Superalignment team) возглавит сооснователь и главный научный сотрудник OpenAI Илья Суцкевер и один из ее менеджеров Ян Лейке. Туда войдут ученые, исследователи и программисты из разных подразделений компании. В ближайшие годы они займутся решением технических проблем, связанных с контролем над сверхразумом.
Цель — создать специальный искусственный интеллект с обратной связью, который будет оценивать другие ИИ-системы на предмет того, работают ли они в соответствии со своим предназначением. В OpenAI считают, что, несмотря на возможные предвзятости, ошибки и уязвимости, ИИ будет справляться с этой задачей лучше и быстрее людей.
Еще статьи из раздела
Новости
Цифровой рубль выходит из экспериментального формата в повседневные расчёты. С 1 сентября 2026 года новый способ оплаты начнёт появляться у крупных продавцов, маркетплейсов, операторов связи и в транспорте. Для покупателя всё будет привычно: банковское приложение, QR-код и выбор цифрового рубля среди способов оплаты. Разбираемся, кто готов принимать цифровые рубли в 2026 году и где ими можно будет расплачиваться.
Елена Власюк
Проверка санкций не должна сводиться к поиску названия контрагента в списках. Ограничения могут быть связаны с владельцами бизнеса, посредниками, банками, перевозчиками, товаром, условиями поставки или конечным получателем. Поэтому белорусским компаниям важно оценивать не только сторону договора, но и всю структуру операции.
Елена Власюк
Для бизнеса домен — это не только адрес сайта, но и основа корпоративной почты, рекламы, аналитики, CRM и клиентских сервисов. С 1 сентября 2026 года для регистрации и продления доменов .RU, .РФ и .SU потребуется идентификация администратора с использованием ЕСИА — подтверждённой учётной записи на «Госуслугах». Компаниям стоит заранее проверить, на кого оформлен домен, актуальны ли данные, есть ли доступ к аккаунту регистратора и подготовлена ли учётная запись организации.
Елена Власюк
Удаление приложений VK из App Store стало не только пользовательской проблемой, но и поводом для регуляторного обсуждения. После обращения Минцифры в ФАС вопрос сместился к устойчивости экосистемы iOS в России и рискам для бизнеса, который зависит от одного закрытого канала доступа к клиенту.
Елена Власюк
Из App Store исчезли приложения VK, Mail.ru, «Одноклассники», «Дзен» и ряд других сервисов. Для пользователей это ограничение на установку и обновления. Для бизнеса — показатель того, как быстро внешний магазин приложений может превратиться из канала роста в точку риска.
Елена Власюк
В России планируют изменить налоговый подход к SaaS: льготу по НДС для отечественного ПО планируют распространить на облачные сервисы. Для рынка это сигнал, что облачная модель всё чаще рассматривается не как отдельная услуга, а как полноценный способ поставки программного продукта. Окончательные параметры режима пока не опубликованы, но тема уже касается разработчиков, провайдеров, интеграторов и компаний, которые выбирают цифровые инструменты для бизнеса.
Елена Власюк
В начале июня часть российских разработчиков сообщила о нестабильном доступе к PyPI — репозиторию пакетов для Python. Это не означает остановку самого языка, но может мешать сборке проектов, обновлению сервисов и запуску новых окружений.
Елена Власюк
Bain оценивает новую рыночную возможность для SaaS-компаний в США примерно в $100 млрд и подчёркивает: главный потенциал ИИ-агентов связан не с заменой SaaS, а с автоматизацией дорогой ручной работы между системами. По оценке компании, более 90% этого потенциала пока остаётся незанятым.
Елена Власюк