Скидки горят! План такой: «сверхразумный» искусственный интеллект будет контролировать остальные ИИ
7/6/2023
Артур ГоловинКомпания OpenAI формирует команду для создания систем «сверхразумного» ИИ и контроля над ними. Об этом сообщается в ее корпоративном блоге.
По прогнозу компании, искусственный интеллект станет умнее человека уже в этом десятилетии. Однако предсказать, каким будет поведение и цели искусственного разума, невозможно, поэтому необходимо контролировать разработку сверхразумных ИИ-систем и продумать способы их обуздания. Пока таких решений не существует.
Новую группу (Superalignment team) возглавит сооснователь и главный научный сотрудник OpenAI Илья Суцкевер и один из ее менеджеров Ян Лейке. Туда войдут ученые, исследователи и программисты из разных подразделений компании. В ближайшие годы они займутся решением технических проблем, связанных с контролем над сверхразумом.
Цель — создать специальный искусственный интеллект с обратной связью, который будет оценивать другие ИИ-системы на предмет того, работают ли они в соответствии со своим предназначением. В OpenAI считают, что, несмотря на возможные предвзятости, ошибки и уязвимости, ИИ будет справляться с этой задачей лучше и быстрее людей.
Еще статьи из раздела
Новости
Удаление приложений VK из App Store стало не только пользовательской проблемой, но и поводом для регуляторного обсуждения. После обращения Минцифры в ФАС вопрос сместился к устойчивости экосистемы iOS в России и рискам для бизнеса, который зависит от одного закрытого канала доступа к клиенту.
Елена Власюк
Из App Store исчезли приложения VK, Mail.ru, «Одноклассники», «Дзен» и ряд других сервисов. Для пользователей это ограничение на установку и обновления. Для бизнеса — показатель того, как быстро внешний магазин приложений может превратиться из канала роста в точку риска.
Елена Власюк
В России планируют изменить налоговый подход к SaaS: льготу по НДС для отечественного ПО планируют распространить на облачные сервисы. Для рынка это сигнал, что облачная модель всё чаще рассматривается не как отдельная услуга, а как полноценный способ поставки программного продукта. Окончательные параметры режима пока не опубликованы, но тема уже касается разработчиков, провайдеров, интеграторов и компаний, которые выбирают цифровые инструменты для бизнеса.
Елена Власюк
В начале июня часть российских разработчиков сообщила о нестабильном доступе к PyPI — репозиторию пакетов для Python. Это не означает остановку самого языка, но может мешать сборке проектов, обновлению сервисов и запуску новых окружений.
Елена Власюк
Bain оценивает новую рыночную возможность для SaaS-компаний в США примерно в $100 млрд и подчёркивает: главный потенциал ИИ-агентов связан не с заменой SaaS, а с автоматизацией дорогой ручной работы между системами. По оценке компании, более 90% этого потенциала пока остаётся незанятым.
Елена Власюк
Проверка контрагента в Казахстане помогает снизить риск сделки до подписания договора, оплаты или поставки. По БИН, ИИН или названию компании можно проверить регистрационные данные, налоги, суды, долги, закупки, лицензии и другие сведения. В статье сравним сервисы, которые помогают бизнесу быстрее оценивать надежность партнеров.
Елена Власюк
Роскомнадзор, по сообщениям СМИ, планирует к концу 2030 года довести среднюю эффективность ограничения доступа к VPN и другим сервисам, доступ к которым может ограничиваться, до 92% за счёт сигнатур. Публикации ссылаются на документ о субсидии для подведомственного РКН Главного радиочастотного центра, где эти параметры указаны как целевые результаты на несколько лет вперёд. В тех же материалах фигурируют ещё два ориентира: увеличение пропускной способности ТСПУ до 831 Тбит/с и доведение доли тра
Елена Власюк
С 27 мая 2026 года в России начнут действовать изменения в перечне товаров для параллельного импорта. Они затрагивают часть компьютерной техники, серверного оборудования и устройств хранения данных. Изменения связаны с приказом Минпромторга № 4769 от 26 сентября 2025 года. Часть его положений начала действовать раньше, а часть вступает в силу по истечении шести месяцев после официального опубликования — в конце мая 2026 года. При этом сам механизм параллельного импорта не отменяется. Речь идёт о
Елена Власюк