Скидки горят! План такой: «сверхразумный» искусственный интеллект будет контролировать остальные ИИ
7/6/2023
Артур ГоловинКомпания OpenAI формирует команду для создания систем «сверхразумного» ИИ и контроля над ними. Об этом сообщается в ее корпоративном блоге.
По прогнозу компании, искусственный интеллект станет умнее человека уже в этом десятилетии. Однако предсказать, каким будет поведение и цели искусственного разума, невозможно, поэтому необходимо контролировать разработку сверхразумных ИИ-систем и продумать способы их обуздания. Пока таких решений не существует.
Новую группу (Superalignment team) возглавит сооснователь и главный научный сотрудник OpenAI Илья Суцкевер и один из ее менеджеров Ян Лейке. Туда войдут ученые, исследователи и программисты из разных подразделений компании. В ближайшие годы они займутся решением технических проблем, связанных с контролем над сверхразумом.
Цель — создать специальный искусственный интеллект с обратной связью, который будет оценивать другие ИИ-системы на предмет того, работают ли они в соответствии со своим предназначением. В OpenAI считают, что, несмотря на возможные предвзятости, ошибки и уязвимости, ИИ будет справляться с этой задачей лучше и быстрее людей.
Еще статьи из раздела
Новости
В начале июня часть российских разработчиков сообщила о нестабильном доступе к PyPI — репозиторию пакетов для Python. Это не означает остановку самого языка, но может мешать сборке проектов, обновлению сервисов и запуску новых окружений.
Елена Власюк
Bain оценивает новую рыночную возможность для SaaS-компаний в США примерно в $100 млрд и подчёркивает: главный потенциал ИИ-агентов связан не с заменой SaaS, а с автоматизацией дорогой ручной работы между системами. По оценке компании, более 90% этого потенциала пока остаётся незанятым.
Елена Власюк
Проверка контрагента в Казахстане помогает снизить риск сделки до подписания договора, оплаты или поставки. По БИН, ИИН или названию компании можно проверить регистрационные данные, налоги, суды, долги, закупки, лицензии и другие сведения. В статье сравним сервисы, которые помогают бизнесу быстрее оценивать надежность партнеров.
Елена Власюк
Роскомнадзор, по сообщениям СМИ, планирует к концу 2030 года довести среднюю эффективность ограничения доступа к VPN и другим сервисам, доступ к которым может ограничиваться, до 92% за счёт сигнатур. Публикации ссылаются на документ о субсидии для подведомственного РКН Главного радиочастотного центра, где эти параметры указаны как целевые результаты на несколько лет вперёд. В тех же материалах фигурируют ещё два ориентира: увеличение пропускной способности ТСПУ до 831 Тбит/с и доведение доли тра
Елена Власюк
С 27 мая 2026 года в России начнут действовать изменения в перечне товаров для параллельного импорта. Они затрагивают часть компьютерной техники, серверного оборудования и устройств хранения данных. Изменения связаны с приказом Минпромторга № 4769 от 26 сентября 2025 года. Часть его положений начала действовать раньше, а часть вступает в силу по истечении шести месяцев после официального опубликования — в конце мая 2026 года. При этом сам механизм параллельного импорта не отменяется. Речь идёт о
Елена Власюк
В России майнинг уже нельзя считать серой зоной без понятных правил. Учёт майнеров и операторов майнинговой инфраструктуры ведётся через реестр ФНС, а для юридических лиц и ИП включение в реестр является условием легальной работы. Вопрос в части того, какие штрафы за майнинг могут установить для нарушителей, важен не только для майнинговых компаний, но и для операторов инфраструктуры и бизнеса, который работает с цифровыми активами или смежными сервисами в сфере криптовалюты.
Елена Власюк
Эльвира Набиуллина 28 апреля заявила, что Россия впервые в современной истории живёт в условиях такого дефицита рабочей силы. По её словам, ситуация на рынке труда влияет не только на компании, но и на экономику в целом, включая решения по денежно-кредитной политике. Это уже не частный HR-вопрос, а фактор, от которого зависят скорость роста бизнеса, стоимость найма и устойчивость операционных процессов.
Елена Власюк
Чем дольше компания использует систему, тем больше данных в ней собирается. Постепенно их становится труднее быстро находить, сопоставлять и применять в ежедневной работе. В результате подготовка отчетов, поиск нужной информации и контроль процессов начинают требовать больше времени.
Елена Власюк