Крупные компании начинают не просто привлекать, а брать в штат философов, культурологов. Цукерберг и Безос начинают ходить на благотворительные ужины и скупать произведения искусства…
И видя такие новости, у меня возникает ощущение того, что история движется кругами. И если заменить слово «ИИ» на «парадигма мышления», то мы увидим множество совпадений в ретроспективе последних 3000 лет.
Основной посыл можно свести к вопросам осмысленности ответов ИИ. При этом не имеет значение факт наличия или отсутствия сознания у ИИ. Пользователи хотят видеть те ответы, которые ожидают. Вне зависимости от того, сформированы они с участием человека или без. Кроме того, они хотят быть уверенными, что эти ответы остаются в пространстве культурных кодов той или иной цивилизационной парадигмы. Ответы должны быть согласованы с теми нормами, принципами и знаниями, которые составляют картину мира пользователя. Без этого на них нельзя встроить в наши, человеческие, цепочки рассуждений. Ни со смысловой, ни с этической, ни с эстетической, ни с правовой точки зрения. Это приводит к росту внутренней напряженности пользователей ввиду фонового недоверия: никогда не знаешь в какой момент ИИ-система выдаст какую-то «дичь».
Отсюда следует несколько проблем:
1. Проблема common sense или проблема предела рациональности мышления
Не секрет, что одними из основных претензий к ИИ сегодня это тот самый common sense, понимаемый как обобщенное и общепринятое мнение. С точки зрения LLM/ML — это усредненное значение, полученное в результате статистической обработки как можно больших массивов данных. Это не лучшее, это именно наиболее ожидаемое. И здесь нет творчества. Даже GenAI не больше, чем вероятностная машина, обеспечивающая выдачу наиболее частотного слова или даже фразы. Рисование картинок ИИ – все таже комбинаторика.
Читать далее