Email:
Office@redstone.ru
Рабочие часы
ПН-ПТ: с 09.00 - 18.00
«Яндекс» запустил исследование, которое должно показать, способен ли искусственный интеллект вырабатывать собственные предпочтения и внутреннюю логику. На первом этапе специалисты не обнаружили у модели устойчивых суждений, и теперь приступают к эксперименту по обучению ИИ на собственных рассуждениях. Результаты компания рассчитывает получить до конца года.
Первый этап — устойчивых предпочтений у модели нет
На начальном этапе специалисты проверили, формирует ли базовая модель стабильные предпочтения без дополнительных механизмов обучения. По данным «Яндекса», таких признаков не выявлено — ответы модели менялись от запроса к запросу и не фиксировались в долгосрочной перспективе.
Теперь компания планирует начать второй этап исследования — модель будут стимулировать к рассуждениям и рефлексии. Её намерены обучать на собственных размышлениях: нейросеть будет отвечать на вопросы, формулировать аргументы и пытаться выстраивать внутренние суждения. Например, модель может выбрать «любимый цвет» и объяснить, почему она предпочитает именно его. Это позволит проверить, формируется ли внутренняя логика, напоминающая устойчивые предпочтения..
«Яндекс» планирует получить первые результаты до конца года. В компании отмечают, что эксперимент имеет исследовательский характер: гипотезы могут корректироваться по мере изучения поведения модели.
Это шанс лучше понять и ИИ, и человека
Руководитель Школы анализа данных «Яндекса» Алексей Толстиков подчёркивает, что подобные проекты важны как для развития ИИ, так и для более глубокого изучения человеческого мышления. По его словам, главная проблема сегодня — ограниченный объём памяти нейросетей.
«Современные модели в решении даже сложных задач удерживают только контекст фиксированного размера, как если бы человек каждое утро просыпался со знаниями, которые были у него на 1 января», — комментирует руководитель Школы анализа данных «Яндекса» Алексей Толстиков.
По его словам, ключевой интерес представляет способность ИИ менять поведение по мере поступления новых данных. При этом он подчёркивает, что в разных областях, связанных с искусственным интеллектом, данные влияют на систему сразу, а не откладываются «про запас».
«В самых разных областях, связанных с искусственным интеллектом — например, в обучении роботов — данные не просто накапливаются на будущее, а непосредственно малыми порциями влияют на поведение», — отмечает эксперт Алексей Толстиков.
Он сравнивает этот процесс с чередованием фаз активного обучения и последующего ментального отдыха, когда в человеческом мозге опыт упорядочивается и «раскладывается по полочкам».
Цель проекта — понять, выходит ли ИИ за рамки статистического предсказания
Эксперимент должен показать, может ли ИИ формировать концептуальные обобщения и устойчивую «картину мира». В «Яндексе» считают, что такие исследования помогут приблизить технологии к системам, способным решать задачи, недоступные современным моделям.
Компания подчёркивает, что проект сосредоточен на научной составляющей.
Фото: PixelsEffect / Getty Images
