Скидки горят! План такой: «сверхразумный» искусственный интеллект будет контролировать остальные ИИ
7/6/2023
Артур ГоловинКомпания OpenAI формирует команду для создания систем «сверхразумного» ИИ и контроля над ними. Об этом сообщается в ее корпоративном блоге.
По прогнозу компании, искусственный интеллект станет умнее человека уже в этом десятилетии. Однако предсказать, каким будет поведение и цели искусственного разума, невозможно, поэтому необходимо контролировать разработку сверхразумных ИИ-систем и продумать способы их обуздания. Пока таких решений не существует.
Новую группу (Superalignment team) возглавит сооснователь и главный научный сотрудник OpenAI Илья Суцкевер и один из ее менеджеров Ян Лейке. Туда войдут ученые, исследователи и программисты из разных подразделений компании. В ближайшие годы они займутся решением технических проблем, связанных с контролем над сверхразумом.
Цель — создать специальный искусственный интеллект с обратной связью, который будет оценивать другие ИИ-системы на предмет того, работают ли они в соответствии со своим предназначением. В OpenAI считают, что, несмотря на возможные предвзятости, ошибки и уязвимости, ИИ будет справляться с этой задачей лучше и быстрее людей.
Еще статьи из раздела
Новости
Исследование Cloud Advisor более 40 тыс. виртуальных машин в Cloud.ru и Yandex Cloud выявило серьёзные проблемы безопасности в части исследованных инфраструктур. У 88% организаций нашли критические уязвимости на публичном периметре, у 24% — вредоносное ПО. Ещё у 39% обнаружили открытые ключи, токены или пароли, а 48% пользовательских учётных записей работали без MFA.
Елена Власюк
Российские компании получили доступ к новой языковой модели GLM-5.3 через MWS Cloud. Модель размещена в GPT Model Hub, а обработка запросов, по данным MWS Cloud, выполняется в инфраструктуре компании на территории России. GLM-5.3 ориентирована на программирование, создание ИИ-агентов и автоматизацию сложных многоэтапных задач.
Елена Власюк
Российский рынок облачных сервисов продолжает расти, но заметно медленнее, чем в предыдущие годы. По данным iKS-Consulting, в первом полугодии 2026 года выручка поставщиков облачных услуг выросла на 13,6% и достигла 123 млрд рублей. По итогам года рынок может приблизиться к 500 млрд рублей. Речь идет не о падении спроса, а о переходе отрасли к более умеренным темпам роста.
Елена Власюк
Цифровой рубль выходит из экспериментального формата в повседневные расчёты. С 1 сентября 2026 года новый способ оплаты начнёт появляться у крупных продавцов, маркетплейсов, операторов связи и в транспорте. Для покупателя всё будет привычно: банковское приложение, QR-код и выбор цифрового рубля среди способов оплаты. Разбираемся, кто готов принимать цифровые рубли в 2026 году и где ими можно будет расплачиваться.
Елена Власюк
Проверка санкций не должна сводиться к поиску названия контрагента в списках. Ограничения могут быть связаны с владельцами бизнеса, посредниками, банками, перевозчиками, товаром, условиями поставки или конечным получателем. Поэтому белорусским компаниям важно оценивать не только сторону договора, но и всю структуру операции.
Елена Власюк
Для бизнеса домен — это не только адрес сайта, но и основа корпоративной почты, рекламы, аналитики, CRM и клиентских сервисов. С 1 сентября 2026 года для регистрации и продления доменов .RU, .РФ и .SU потребуется идентификация администратора с использованием ЕСИА — подтверждённой учётной записи на «Госуслугах». Компаниям стоит заранее проверить, на кого оформлен домен, актуальны ли данные, есть ли доступ к аккаунту регистратора и подготовлена ли учётная запись организации.
Елена Власюк
Удаление приложений VK из App Store стало не только пользовательской проблемой, но и поводом для регуляторного обсуждения. После обращения Минцифры в ФАС вопрос сместился к устойчивости экосистемы iOS в России и рискам для бизнеса, который зависит от одного закрытого канала доступа к клиенту.
Елена Власюк
Из App Store исчезли приложения VK, Mail.ru, «Одноклассники», «Дзен» и ряд других сервисов. Для пользователей это ограничение на установку и обновления. Для бизнеса — показатель того, как быстро внешний магазин приложений может превратиться из канала роста в точку риска.
Елена Власюк