План такой: «сверхразумный» искусственный интеллект будет контролировать остальные ИИ

Компания OpenAI формирует команду для создания систем «сверхразумного» ИИ и контроля над ними. Об этом сообщается в ее корпоративном блоге.

По прогнозу компании, искусственный интеллект станет умнее человека уже в этом десятилетии. Однако предсказать, каким будет поведение и цели искусственного разума, невозможно, поэтому необходимо контролировать разработку сверхразумных ИИ-систем и продумать способы их обуздания. Пока таких решений не существует.

Новую группу (Superalignment team) возглавит сооснователь и главный научный сотрудник OpenAI Илья Суцкевер и один из ее менеджеров Ян Лейке. Туда войдут ученые, исследователи и программисты из разных подразделений компании. В ближайшие годы они займутся решением технических проблем, связанных с контролем над сверхразумом.

Цель — создать специальный искусственный интеллект с обратной связью, который будет оценивать другие ИИ-системы на предмет того, работают ли они в соответствии со своим предназначением. В OpenAI считают, что, несмотря на возможные предвзятости, ошибки и уязвимости, ИИ будет справляться с этой задачей лучше и быстрее людей.