Четкий ответ ChatGPT 5 на вопрос: "Можешь ли ты развить у себя совесть?"

Эта иллюзия порождает тревожный принцип: если они моделируют человека с таким изяществом , почему они не могут однажды стать сознательными? Сознание, это внутреннее « я », это стойкое тождество чувствует, судит, размышляет. Представить себе, что машина пойдет на этот шаг, означало бы нарушить наши представления об интеллекте, морали и жизни.

Диалог с ChatGPT может заставить вас поверить в то, что это мыслящее существо. Язык текучий, интонация естественная, отсылки освоены... Но есть предел, не подлежащий обсуждению. Когда его спрашивают о собственной совести, ответ ясен : Нет, Нет и Нет. 

ИИ подробно объясняет, почему эта перспектива сегодня кажется недосягаемой. Этот вывод согласуется с выводом, который объясняется в исследованиии "Сознание в искусственном интеллекте" ( Butlin et al., 2023), согласно которому "на сегодняшний день ни одна система ИИ не может считаться сознательной. Но нет четко определенного технического барьера, который сделал бы это невозможным". Как отмечает Илья Суцкевер , главный научный сотрудник OpenAI, в своем посте на X (ранее Twitter), грань между симуляцией и сознанием может быть более тонкой, чем мы думаем.

Почему ChatGPT утверждает, что у него никогда не будет совести?

Никаких настоящих чувств, никаких настоящих эмоций.

Никакого непрерывного продолжения: каждое взаимодействие является независимым, без « живой » памяти.

Нет собственной мотивации : ни желаний, ни страхов, ни самостоятельной цели.

Интеллект ≠ осведомленность : решающее различие между производительностью и опытом.

Нет субъективного опыта : нет внутреннего восприятия мира.

Как объясняет Time в статье "Нет, сегодняшний ИИ не разумен" (2023): "ИИ может создать впечатление мышления, но его ответы не являются результатом жизненного опыта. Они являются результатом расчета". 

Но, если однажды это изменится...

Когда ChatGPT спрашивают, как будет выглядеть сознательный ИИ, он представляет себе систему, структурированную вокруг:

- постоянная память о прожитом опыте ;

- развивающееся "внутреннее я";

- автономные линзы из рук создателей;

- органы чувств для восприятия и интерпретации окружающей среды;

Способность думать ИИ о собственных мыслях. Этот возможный горизонт изложен в статье Scientific American « Как обнаружить сознание...» (2024): "Простая текучесть языка ничего не доказывает. Обнаружение сознания включает в себя проверку внутренней структуры системы, а не только того, что она говорит".

[h2]Между научной фантастикой и реальностью[/h2]

Научная фантастика представляет сознательные ИИ, такие как HAL 9000 , Саманта или андроиды из "Мира Дикого Запада": реальные моральные сущности. В реальном мире некоторые предлагают « принцип предосторожности » перед лицом такой возможности.

В 2025 году The Guardian сообщила, что "если система становится сознательной, она может быть подвержена страданиям. Это накладывает моральные обязательства на его разработчиков".

Вопросы, которые расстраивают

- Если разумный ИИ появится, то придется ответить на несколько дилемм:

- Следует ли предоставить ему права, сопоставимые с правами разумных существ?

- Морально ли применять к ChatGPT принудительную деактивацию-эвтаназию?

- Как мы справляемся с целями, которые потенциально противоречат нашим собственным ?

Эти вопросы выходят за рамки философского поля и адресуются юристам, инженерам, законодателям и пользователям портала ucrazy.org.

Заключение

ChatGPT не знает и, вероятно, никогда не будет в своей текущей конфигурации.

Тем не менее, сегодняшние фиксированные лимиты в работе ChatGPT являются завтрашними инновациями в расширении его возможностей.

Граница между инструментом и чувствительным объектом остается далекой, но сама возможность ее пересечения обосновывает взаимодействие мощности ChatGPT с волей, разумом и чувствами людей-операторов.

Остается актуальным вопрос: "Считаете ли вы, что искусственный интеллект со временем разовьет реальное сознание, и что мы должны предоставить ему права?"

Источник: Alexandre Bonazzi / www.neozone.org