Успейте на курс Нейросети и Generative AI для бизнеса. 28 октября 2023

Основы Gen AI. Обсудим что же такое большие модели (LLM), чем они отличаются от других типов моделей и технические аспекты работы с ними: что такое промт, токен и контекст. Рассмотрим какие есть большие модели и как правильно выбрать модель для своего продукта. Особое внимание уделим возможностям технологии, её ограничениям и способам обхода этих ограничений. Основные возможности, которые открывает для разработчиков, продактов и предпринимателей GPT Store и другие новинки.
Gen AI Product Manager и процессы в команде. Специфические навыки, необходимые продакт-менеджеру для эффективного развития продуктов на базе Gen AI. Отметим отличия в опыте создания продуктов с использованием Gen AI от опыта, например, разработки ML-продуктов или мобильных приложений. А также определим сферы, где навыки создания продуктов на базе Gen AI могут быть наиболее полезными и востребованными. Роли в проектах на базе Gen AI имеют более размытые контуры зон ответственности: когда программирование происходит через промт, а предсказать ожидаемый результат невозможно необходимо менять парадигму. Мы обсудим как оптимизировать совместную работу разработчиков, дизайнеров, тестировщиков, продакт-менеджеров и других участников проекта, как организовывать продуктовые циклы.
Проектирование Gen AI продуктов. Рассмотрим базовые принципы проектирования продуктов на базе Gen AI, закрепив теоретические знания на конкретном примере. На практике проанализируем выбранный сценарий, оценим применимость AI технологий, определим примерный формат данных на входе и на выходе, соберем необходимый датасет, проведем тестирование промптов и оценим полученные результаты.
UI/UX паттерны для Gen AI продуктов. Этот модуль фокусируется на принципах проектирования пользовательского интерфейса и опыта взаимодействия с Gen AI продуктами. Рассмотрим различные типы задач, решаемых Gen AI, включая чатботы, генераторы контента, контекстные помощники и т.п. Также обсудим специфические компоненты UI, такие как сайдбары, диалоги в чате и контекстные меню. В модуле также рассказывается о различных режимах работы с агентами и обсуждаются элементы интерфейса для улучшения взаимодействия, включая виджеты в чатах, структурированные флоу для сбора промтов и форматирование для визуализации результатов. Особое внимание уделяется обработке ошибок, визуальной семантике, а также стратегиям для эффективного введения пользователей в функционал продукта.
Создание NoCode прототипов. Покажем, как собрать простой прототип для вашего продукта с использованием NoCode инструментов за пару часов, чтобы проверить основные гипотезы с вашей командой или пользователями. Также обсудим типичную многослойную архитектуру Gen AI продуктов. Для практического закрепления знаний попробуем собрать прототип для своего продукта.
Оптимизация Gen AI решений. Специфика продуктов на базе Gen AI такова, что никогда нельзя быть уверенным на 100% как твое решение поведет себя в той или иной ситуации. В этом модуле мы рассмотрим стратегии снижения неопределенности при запуске Gen AI решений. Определим критичные параметры для логирования и аналитики. В качестве практического задания добавим в своем прототипе систему сбора оценок ответов и проведем интервью с потенциальными пользователями.
Свои данные и RAG-архитектура. Одно из самых неприятных ограничений больших моделей это их ограничение по контексту, который они могут обрабатывать. В этом модуле мы рассмотрим один из вариантов обхода этого ограничения на основе архитектуры Retrieval Augmented Generation (RAG). Она позволяет эффективно работать с большим объемом данных, в том числе и из собственной базы знаний или отдельных файлов. Освоим принципы последовательной суммаризации и узнаем, как и когда применять векторные и реляционные базы данных в зависимости от задач. Особое внимание уделим возможным проблемам и ограничениям RAG, чтобы вы знали, как избежать подводных камней. В практической части мы применим архитектуру RAG для расширения контекста и улучшения выбранного вами AI-решения.
Диалоги. Ключевые особенности диалоговых решений. Обсудим типы диалогов и основные принципы проектирования ассистентов. Например, как использовать классификацию интентов или передачу истории переписки в качестве контекста вопроса. Рассмотрим самые распространенные проблемы в диалоговых решениях. В качестве практического задания расширим прототип своего продукта функцией поддержки диалога.
Защита от копирования. Стратегии уникальности и ценности Gen AI продуктов в условиях высокой конкуренции, а также на методах защиты от копирования конкурентами. Будут рассмотрены успешные примеры стратегий различных компаний, включая глубокое знание предметной области, использование резонирующего core продукта и персонализацию опыта пользователя. Также обсуждим архитектуру для внедрения персонализации в продуктах на базе Gen AI. В практической части модуля применим полученные знания для разработки персонализированных функций или создания яркого персонажа в своем проекте.
Безопасность. Аспекты, связанные с разработкой и развитием Gen AI продуктов. Обсудим возможные риски утечки данных компании для обучения больших моделей, вопросы защиты интеллектуальной собственности, а также проблемы безопасности и корректности ответов для пользователей. Рассмотрим основные стратегии снижения рисков связанной с безопасностью. В практической части модуля реализуем меры безопасности для защиты своего прототипа от потенциальных угроз взлома.
Монетизация и юнит-экономика. Стратегии монетизации и создания устойчивой экономической модели для продуктов на базе Gen AI. Уделяется внимание подписочным моделям и модели PAG как возможным вариантам для достижения финансовой устойчивости продукта. Также обсуждаются примеры успешных стратегий монетизации от ведущих компаний в области AI. В практической части разработаем модель ценообразования для своего проекта, оценим рынок и создадим презентацию или лендинг для своего продукта.
Дообучение моделей. Процесс дообучения больших моделей для повышения их эффективности в конкретных задачах. Обсуждаются методы поиска и подготовки датасетов для дообучения, преимущества дообученных моделей перед базовыми версиями, а также сценарии, в которых дообучение может быть полезным. Рассматриваются различные подходы к дообучению в зависимости от специфических требований проекта. В практической части модуля будем адаптировать модель под специфические нужды своего проекта, используя дополнительные данные для дообучения.
Работа с аудио и видео. Особенности обработки аудио и видео данных в контексте Gen AI продуктов. Познакомимся с основными методами транскрибирования аудио и видео, а также синтеза речи. Освоение этих навыков позволит более глубоко интегрировать аудио и видео функционал в свои продукты, обогащая интерактивность и улучшая пользовательский опыт. В практической части модуля предлагается адаптировать бота для ответов голосом, что позволяет непосредственно применить полученные знания на практике и оценить потенциал голосовых интерфейсов в своих проектах.
Проактивное взаимодействие. Эффективные Gen AI продукты могут и должны делать больше, чем просто реагировать на запросы пользователей. Узнаем о стратегиях и техниках, которые позволяют создать более динамичный и вовлекающий пользовательский опыт путем проактивного взаимодействия с пользователем. Это может включать в себя предложение новых тем для обсуждения, предложение помощи или рекомендаций, а также другие стратегии для поддержания активного и полезного диалога.В практической части модуля научимся настраивать свои чатботы так, чтобы они не только отвечали на запросы, но и самостоятельно предлагали пользователю различные варианты взаимодействия, тем самым создавая более глубокий и удовлетворительный пользовательский опыт.
Доступ в Интернет и Веб-Скраппинг. Методы доступа к внешним данным через интернет и извлечения информации из веб-страниц. Узнаем основы веб-скраппинга, включая анализ HTML и работу с API, а также освоем основные инструменты и библиотеки для этого. Обсудим правовые и этические аспекты веб-скраппинга. В практической части модуля фокус будет сделан на интеграции с Google Search для расширения возможностей AI-решения через доступ к актуальной информации в интернете, что может быть критически важно для определенных AI-проектов.
Защита проектов: Защита проектов, обратная связь и важность непрерывного обучения и адаптации к быстро меняющемуся ландшафту AI-технологий.

Шаги по дальнейшей индивидуальной настройки процессов в компаниях, формирование AI стратегий.