План такой: «сверхразумный» искусственный интеллект будет контролировать остальные ИИ

7/6/2023

Артур Головин Артур Головин

Компания OpenAI формирует команду для создания систем «сверхразумного» ИИ и контроля над ними. Об этом сообщается в ее корпоративном блоге.

По прогнозу компании, искусственный интеллект станет умнее человека уже в этом десятилетии. Однако предсказать, каким будет поведение и цели искусственного разума, невозможно, поэтому необходимо контролировать разработку сверхразумных ИИ-систем и продумать способы их обуздания. Пока таких решений не существует.

Новую группу (Superalignment team) возглавит сооснователь и главный научный сотрудник OpenAI Илья Суцкевер и один из ее менеджеров Ян Лейке. Туда войдут ученые, исследователи и программисты из разных подразделений компании. В ближайшие годы они займутся решением технических проблем, связанных с контролем над сверхразумом.

Цель — создать специальный искусственный интеллект с обратной связью, который будет оценивать другие ИИ-системы на предмет того, работают ли они в соответствии со своим предназначением. В OpenAI считают, что, несмотря на возможные предвзятости, ошибки и уязвимости, ИИ будет справляться с этой задачей лучше и быстрее людей.

Разделы:

Еще статьи из раздела

Новости
Аспро.Cloud добавил MCP-сервер для работы с ИИ-инструментами
Аспро.Cloud добавил MCP-сервер для работы с ИИ-инструментами

Чем дольше компания использует систему, тем больше данных в ней собирается. Постепенно их становится труднее быстро находить, сопоставлять и применять в ежедневной работе. В результате подготовка отчетов, поиск нужной информации и контроль процессов начинают требовать больше времени.

4/29/2026
Елена Власюк Елена Власюк
Читать
Конец эпохи ChatGPT в России? Почему DeepSeek захватил 30% рынка за месяц
Конец эпохи ChatGPT в России? Почему DeepSeek захватил 30% рынка за месяц

Разговоры о том, что ChatGPT в России сдает позиции, появились не на пустом месте. По мартовому срезу Andreessen Horowitz, который затем пересказали российские медиа, DeepSeek получил 29% рынка AI-чатботов в России, а ChatGPT — 27%. В январском отчёте Microsoft оценка доли DeepSeek в России была ещё выше — около 43%. DeepSeek захватил 30% рынка за месяц – звучит впечатляюще, но это не просто громкие слова, а реальная статистика.

4/27/2026
Елена Власюк Елена Власюк
Читать
Облачная телефония для бизнеса: как выбрать виртуальную АТС в 2026 году
Облачная телефония для бизнеса: как выбрать виртуальную АТС в 2026 году

Когда в компании становится больше клиентов, сотрудников и каналов продаж, обычная телефония для бизнеса быстро перестаёт справляться с нагрузкой. Часть обращений теряется, менеджеры отвечают с личных номеров, руководитель не видит пропущенные вызовы, а клиенту приходится повторно объяснять один и тот же вопрос разным людям. В такой ситуации облачная телефония для бизнеса помогает навести порядок в звонках и сделать работу с обращениями более прозрачной.

4/22/2026
Елена Власюк Елена Власюк
Читать
Что с бизнесом в России в 2026 году: тренды, налоги и стратегии для МСП
Что с бизнесом в России в 2026 году: тренды, налоги и стратегии для МСП

В 2026 году малый и средний бизнес в России работает в более требовательной экономической среде. Для предпринимателей решающими становятся не только продажи, но и способность сохранять маржинальность, адаптироваться к налоговым изменениям, решать кадровые задачи и выстраивать устойчивые бизнес-процессы. В статье разберем, что происходит с бизнесом в России сегодня и какие факторы сильнее всего влияют на малые и средние предприятия (МСП).

4/15/2026
Елена Власюк Елена Власюк
Читать
Сколько еще магазинов «М.Видео» будет закрыто до конца 2026 года
Сколько еще магазинов «М.Видео» будет закрыто до конца 2026 года

События начала апреля 2026 года заставили рынок понервничать. Новости о возможном закрытии 20–30% магазинов «М.Видео» (по данным NF Group) вызвали волну слухов: неужели гигант ритейла уходит с рынка? Разбираемся, почему на самом деле закрываются магазины «М.Видео», как маркетплейсы переписали правила игры и почему старый добрый магазин электроники в 2026 году — это уже не то, чем он кажется.

4/9/2026
Елена Власюк Елена Власюк
Читать
Минцифры предлагает цифровые почтовые ящики для бизнеса, ИП и самозанятых
Минцифры предлагает цифровые почтовые ящики для бизнеса, ИП и самозанятых

В России обсуждают законопроект Минцифры, который может изменить порядок доставки юридически значимых сообщений в цифровом формате. Поводом стали публикации о возможном введении цифровых почтовых ящиков для бизнеса, индивидуальных предпринимателей и самозанятых. При этом говорить о том, что платить за новую систему обяжут всех россиян, некорректно: по официальной позиции Минцифры, для граждан сервис должен остаться бесплатным, а детали обязательного и платного использования для деловой среды пок

3/31/2026
Елена Власюк Елена Власюк
Читать
Закон об обязательной предустановке отечественных ИИ-сервисов на смартфоны в России
Закон об обязательной предустановке отечественных ИИ-сервисов на смартфоны в России

В России обсуждают перспективы регулирования в части обязательной предустановки ИИ-сервисов на смартфоны и другую официально продаваемую в стране электронику. Инициатива упоминается в материалах правительства к рамочному законопроекту об ИИ, который готовит Минцифры. По данным СМИ, документ с учётом этих предложений могут направить на согласование в правительство до конца февраля 2026 года.

2/17/2026
Елена Власюк Елена Власюк
Читать
Почему в России не скачиваются обновления Windows и при чём здесь замедление Telegram
Почему в России не скачиваются обновления Windows и при чём здесь замедление Telegram

Часть пользователей в России жалуются, что Windows Update перестал нормально подключаться к серверам Microsoft. Система сообщает, что нет соединения с сервером обновлений, из-за чего обновления могут не находиться вовсе или «зависать» на этапе загрузки. Поводом для обсуждения стала публикация Mash: в материале проблему связывают с усилением фильтрации трафика на фоне замедления Telegram. Роскомнадзор ситуацию не комментировал и не выпускал отдельного разъяснения.

2/17/2026
Елена Власюк Елена Власюк
Читать
  • Все результаты 0