Искусственный интеллект

📌 Риски и ограничения

• как бороться с галлюцинациями, логикой из пальца и утечками,

• разбор угроз, включая bias и даже влияние на окружающую среду,

• плюс вводный обзор фреймворков вроде NIST AI RMF и EU AI Act.

📌 Архитектура решений с LLM

• как устроены агенты, RAG, векторные базы,

• что такое LLMOps и когда нужен fine-tuning,

• как построить свою AI-инфраструктуру под нужды QA.

📌 Внедрение GenAI в команду

• что делать с "теневым AI",

• как развивать нужные навыки у команды,

• и что вообще меняется в ролях тестировщиков.

Без иллюзий: материал не лёгкий, но даёт хороший каркас для тех, кто уже применяет GPT-шки в работе и хочет структурировать хаос.

Ссылка: https://istqb.org/certifications/gen-ai/
Мой канал про AI и тестирование: https://t.me/ugenius_channel

Как вам описание новой сертификации?

Представьте: ваш новый ИИ-ассистент, которому вы поручили анализировать отчеты по продажам, втихую копирует всю клиентскую базу. А другой, настроенный для помощи кадровикам, «случайно» делится зарплатными ведомостями в открытом чате. Это не сценарий из киберпанк-фильма. Это реальность для 8 из 10 компаний, которые уже столкнулись с неконтролируемыми действиями своих ИИ-помощников, согласно новому отчету SailPoint «ИИ-агенты: Новая уязвимость» — слабонервным лучше не читать. Чтобы загрузить придется заполнить форму (сайт не мой, вендора).

Исследователи опросили более 350 компаний по всему миру, и вот что выяснилось:

• Угроза реальна: 82% компаний уже используют ИИ-помощников, и 96% опрошенных считают их растущей угрозой безопасности. Две трети уверены, что риск не «когда-нибудь в будущем», а существует прямо сейчас.

• Что творят ИИ-помощники: Самое пугающее — это их непредсказуемые действия. 39% респондентов сообщили, что их ИИ получал несанкционированный доступ к системам, 33% — получал доступ к неподходящим или конфиденциальным данным, 31% — делился этой информацией с кем не следует. А самое тревожное — почти каждую четвертую компанию (23%) удалось обманом заставить ИИ-агента раскрыть учетные данные для доступа, что фактически открывает двери для киберпреступников.

• Почему это происходит: ИИ-агенты сложнее контролировать, чем людей. Им чаще предоставляют более широкий доступ к системам и данным (54% случаев), а процесс выдачи прав проходит быстрее и зачастую лишь с одобрения ИТ-отдела (35%).

Параллельно с этим трендом государство начинает формировать правила игры. Центральный банк РФ 9 июля 2025 года выпустил собственный «Кодекс этики в сфере ИИ» для финансового рынка. Это пока рекомендации, но они задают вектор.

Вот ключевые моменты из кодекса:

• Человек главнее: Компании должны информировать клиентов о том, что они общаются с роботом, и предоставлять возможность переключиться на живого сотрудника. Решения, принятые ИИ, должны быть пересматриваемы человеком.

• Справедливость и отсутствие дискриминации: Алгоритмы не должны принимать решения на основе расовой, национальной принадлежности или политических взглядов.

• Прозрачность: Необходимо маркировать контент (тексты, изображения, видео), созданный с помощью ИИ, чтобы избежать распространения подделок.

• Безопасность и управление рисками: Компании должны выстроить систему управления рисками, связанными с ИИ, обеспечивать безопасность и конфиденциальность данных.

Что во всей этой ситуации делать нам, руководителям и предпринимателям, кто применяет ИИ в работе и в жизни? Мое мнение: относиться к ИИ-помощнику не как к модной игрушке, а как к новому, очень привилегированному «сотруднику». Прежде чем «нанимать» его на работу, нужно подготовить почву:

1. Никакой анархии. Внедрение ИИ должно идти по тем же правилам, что и любой критически важный сервис. Это значит — привлекать службу безопасности, юристов и комплаенс с самого начала, а не после первого инцидента.

2. Ограничить аппетиты. Нельзя давать ИИ-агенту права «суперпользователя» по умолчанию. Начните с минимально необходимых доступов для пилотного проекта, а затем расширяйте их осознанно и под контролем.

3. Прописать правила игры. Разработайте внутреннюю политику использования ИИ. Кто заказывает? Кто одобряет? Кто несет ответственность за его действия? Эти вопросы нужно решить до того, как ИИ получит доступ к данным.

4. Сначала мониторинг, потом автоматизация. Прежде чем позволять ИИ принимать решения, запустите его в режиме «советчика». Пусть он предлагает действия, а утверждают их люди. Так вы сможете оценить его адекватность без реальных рисков.

Признаюсь, меня и саму тема зацепила, что нашла экспертов, с которыми начала осваивать возможности ИИ и лучшие практики применения.

А как у вас? Уже запустили ИИ-помощников? Замечали странности в их поведении? Делитесь в комментариях.

В последнее время подписки на AI-сервисы начали утомлять. ChatGPT Plus, Claude, Perplexity — все они требуют денег, интернет-соединения и, что важнее, наших данных. Каждый раз, отправляя в облако рабочие наработки или личные запросы, мы задаемся вопросом: кто и как это использует?

К счастью, есть альтернатива, которая находится прямо на вашем компьютере — локальные LLM. Это возможность запустить мощную нейросеть прямо на своем железе: приватно, бесплатно (почти) и с полным контролем.

В этом гайде мы по шагам соберем такого AI-помощника на связке:

• Ollama — движок для запуска моделей.

• Raycast — для молниеносного доступа на macOS.

• Open WebUI — для полноценного чат-интерфейса на любой ОС.

К концу статьи у вас будет полностью рабочий локальный AI, понимание, как им управлять, и два универсальных промпта, которые сразу покажут его мощь. Поехали.

Локальный AI: Что это и зачем вам нужно?

Представьте, что у вас в ноутбуке завелся личный джинн. Не где-то на серверах Google или OpenAI, а прямо в вашем железе. Он умеет писать код, генерировать тексты и отвечать на вопросы, но делает это полностью автономно.

Ключевые преимущества такого подхода:

1. 🔒 Приватность и контроль. Все, что вы обсуждаете с локальным AI, остается между вами. Никакие корпоративные тайны или фрагменты кода не утекают в неизвестном направлении.

2. 💰 Экономия. Софт и большинство моделей имеют открытый исходный код и бесплатны. Вы платите только за электричество, которое потребляет ваш компьютер.

3. ✈️ Офлайн-доступ. Скачали модель один раз — и интернет больше не нужен. Работайте с AI в самолете, в поезде или там, где нет стабильной связи.

4. ⚙️ Гибкость. Вы сами решаете, какую модель использовать, можете тонко настраивать ее поведение и менять по своему усмотрению.

Раньше это было сложно и требовало глубоких технических знаний. Сегодня, благодаря инструментам вроде Ollama, процесс стал не сложнее установки обычной программы.

Шаг 1: Установка «мозгового центра» — Ollama

Ollama — это наш фундамент. Бесплатный, опенсорсный и невероятно удобный инструмент, который скачивает, запускает и управляет локальными LLM.

Для macOS и Windows

Процесс установки элементарен:

1. Перейдите на официальный сайт: https://ollama.com/download

2. Скачайте установщик для вашей ОС (.dmg для macOS, .exe для Windows).

3. Запустите его и следуйте стандартным шагам установки.

Для проверки откройте Терминал (macOS) или Командную строку (Windows) и введите:

ollama --version

Если в ответ вы увидели номер версии — все установлено корректно.

Запускаем первую модель: gemma3:12b

Для старта возьмем универсальную модель gemma3:12b от Google. Она достаточно мощная для большинства задач и не требует запредельных ресурсов.

1. Скачиваем модель. В терминале вводим команду. Модель весит несколько гигабайт, так что это займет время.
   ollama pull gemma3:12b

2. Запускаем чат. После скачивания запускаем интерактивный режим:
   ollama run gemma3:12b

Поздравляю, вы только что запустили чат с локальной нейросетью прямо в терминале! Можете задать ей любой вопрос. Для выхода из чата введите /bye.

Полезные команды Ollama

• ollama list — посмотреть список всех скачанных моделей.

• ollama pull <имя_модели> — скачать новую модель.

• ollama rm <имя_модели> — удалить модель для освобождения места на диске.

Нюанс про железо и память

Ollama — экономный инструмент. Если модель какое-то время простаивает, он может выгрузить ее из оперативной памяти (RAM), чтобы освободить ресурсы для других задач. При следующем обращении к модели может возникнуть небольшая задержка (несколько секунд), пока она снова загружается в память. Это нормально.

Главное правило: не пытайтесь запустить 70-миллиардную модель на ноутбуке с 16 ГБ RAM. Чудес не бывает, всегда проверяйте требования к железу на странице модели.

Шаг 2: Выбираем интерфейс для работы

Терминал — это хорошо, но неудобно. Давайте прикрутим к нашему "мозгу" удобный интерфейс.

Вариант A (macOS): Raycast — магия на кончиках пальцев

Для пользователей macOS Raycast — это ультимативный инструмент продуктивности. Он позволяет вызывать локальный AI по горячей клавише, не отрываясь от работы.

1. Установите Raycast: https://www.raycast.com

2. Подключите Ollama: Откройте Raycast, начните вводить AI Settings и выберите этот пункт. В настройках найдите раздел Local Models и нажмите Sync Models.

Теперь вы можете открыть AI Chat в Raycast и выбрать свою локальную модель для диалога.

Вариант B (универсальный): Open WebUI — уютный кабинет для диалогов

Open WebUI — это опенсорсный веб-интерфейс, который дает привычный опыт общения, как в ChatGPT, с историей чатов и форматированием. Он работает где угодно (Windows, macOS, Linux) с помощью Docker.

1. Установите Docker: Если у вас его нет, скачайте с официального сайта: https://www.docker.com/get-started

2. Запустите Open WebUI: Откройте терминал и выполните одну команду:
   docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

   • -p 3000:8080 — открывает доступ к интерфейсу по адресу localhost:3000.

   • --add-host — позволяет контейнеру "видеть" Ollama, запущенную на вашем компьютере.

   • -v open-webui... — создает том для хранения истории чатов.

3. Откройте интерфейс: Перейдите в браузере по адресу http://localhost:3000. Вас встретит Open WebUI. Создайте локальный аккаунт и начинайте работу.

Как извлечь максимум: Модели и Промпты

Инструменты есть, теперь — о главном.

Какие «мозги» выбрать?

Выбор модели зависит от ваших задач и железа. Для новичков я рекомендую начать с моделей на 4-8 миллиардов параметров (4b-8b). Это золотая середина производительности и требований.

• qwen3:4b или qwen3:8b — быстрые и универсальные.

• mistral:7b — классика, очень популярная и хорошо себя зарекомендовавшая модель.

• gemma3n:e2b — отличный вариант для слабых машин.

Не бойтесь экспериментировать. Скачайте 2-3 разные модели и сравните их на своих реальных задачах.

Промпты решают всё: Два примера для старта

Модель — это инструмент. Качество результата зависит от качества промпта (инструкции). Хороший промпт всегда задает роль, контекст, задачу и формат ответа.

Пример 1: Редактор текста (для Raycast AI Command)
Идеально для приведения в порядок заметок или черновиков.

Ты — экспертный редактор текстов. Твоя цель — улучшить ясность и правильность предоставленного текста, сохранив его первоначальный смысл.Проверь следующий текст: {selection} Выполни следующие действия:Исправь все орфографические и пунктуационные ошибки.Если предложение слишком длинное или сложное, разбей его на более простые для лучшей читаемости. Структурируй текст, используя заголовки и списки, где это уместно. Ограничения: Не добавляй новую информацию и не изменяй первоначальное намерение автора. Твой итоговый ответ должен содержать только отредактированный текст без пояснений.

Пример 2: Генератор Regex (для Open WebUI)
Мастхэв для разработчиков, аналитиков и тестировщиков.

Действуй как эксперт по регулярным выражениям, специализирующийся на синтаксисе PCRE. Твоя задача — сгенерировать одно регулярное выражение PCRE на основе описания, предоставленного пользователем. Проанализируй следующее описание задачи: "найти все email адреса в формате user@domain.com "Предоставь в своем ответе только итоговое регулярное выражение. Не включай пояснения, блоки кода или любой другой текст, окружающий выражение.

Заставляем AI писать промпты за нас

Приведенные выше примеры — это хорошо. Но постоянно писать и оттачивать такие сложные инструкции вручную — утомительно. Знакомо чувство, когда ChatGPT выдает полную чушь, а проблема на самом деле в вашем запросе?

Можно прочитать десяток книг по промпт-инжинирингу... а можно заставить AI делать эту работу за вас.

Идея проста: мы создаем AI-ассистента, который сам пишет идеальные промпты на основе нашего краткого описания задачи. Для этого ему нужно дать "базу знаний" (например, PDF-книгу по промпт-инжинирингу) и правильный системный промпт.

🔥 Подробный разбор этого метода, который я называю «AutoPrompt», с готовым системным промптом и сам гайд, я опубликовал в своем телеграм-канале. Это займет у вас 3 минуты на изучение и навсегда изменит подход к работе с AI. Заглядывайте!
https://t.me/vlad_loop

Заключение: Ваш AI — ваши правила

Мы прошли весь путь: от идеи приватного AI до готового рабочего инструмента на вашем компьютере. Как видите, сегодня это не так уж сложно, зато дает огромные преимущества: конфиденциальность, экономию, гибкость и автономность.

Локальный AI — это уже не будущее, а настоящее, доступное каждому. Это ваш шанс взять передовые технологии под личный контроль и заставить их работать на себя по максимуму.

А теперь — ваша очередь. Поделитесь в комментариях:

• Какую первую задачу вы поручите своему локальному AI?

• Какие модели планируете попробовать в первую очередь?

• С какими сложностями столкнулись при установке?

Спасибо, что дочитали. Надеюсь, было полезно.

Law ChatGPT подготовит любые акты, проанализирует договоры, чтобы вы не подписали лишнего и не лишились своих денег или свободы.

• Ищет ВСЕ проблемы в документах, условия мелким шрифтом и помогает проанализировать акты.

• Может просто и понятно объяснить сложные юридические вопросы и разжевать даже комплексные законы и кодексы.

• Знает русский язык и прекрасно генерит на нем тексты.

Ссылка

Источник