Как установить ИИ (AI) DeepSeek на локальный компьютер

Содержание
  1. Установка ИИ на свой компьютер ( сервер )
  2. В зачем?
  3. Локальный набор инструментов ИИ ( интерпретаторы AI )
  4. Требование к компьютеру для установки ИИ локально:
  5. На слабых ПК увидите: «Вероятно, слишком велика для этой машины»
  6. Интерпретатор ИИ LM Studio — https://lmstudio.ai/
  7. Загрузка ИИ других моделей в LM Studio:
  8. На 05-04-2025 доступны модели ИИ для загрузки:
  9. Интерпретатор ИИ Ollama — https://ollama.com/library/deepseek-r1:1.5b
  10. Результаты тестирования:
  11. Установить полную модель DeepSeek мы не сможем
  12. Офисный миниПК: Процессор Intel(R) Core(TM) i3-6100U CPU @ 2.30GHz 2.30GHz, 8ГБ, Intel(R) HD Graphics 520 VRAM 0GB, Windows 10Pro
  13. StableCode 3b-Q6_K (2.29Гб) — работает, не быстро и на английском.
  14. Mistral 7B Instruct v0.3 IQ3_M —
  15. Llama 3.2 1B Instruct 8.0 (1.32Гб) — работает.
  16. Llama 3.2 3B Instruct Q8 (3.42Гб) — работает, медленнее.
  17. Qwen2.5 7B Instruct 1M (Q3_K_L, 4.09Гб) — работает, но можно поспать! 
  18. Системный блок: Intel(R) N100 800МГц, RAM 16Гб, Встроенное видео UHD, Windows 11
  19. Часто задаваемые вопросы

Установка ИИ на свой компьютер ( сервер )

Все больше и больше людей начинаю так или иначе сталкиваться с ИИ, даже не подозревая этого! Программисты, всех мастей, уже во всю его используют на разных стадия своих разработок. Сайт ИИ пишет минут за 5. Так что, стоимость труда IP-специалиста дешевеет и становится более востребованной в области использования ИИ!  И тут ЗП остаются высокими, даже огромными!

У нас в России есть свой ИИ ( к сожаления или с счастью к нему нет доступа через внешний интерфейс)! А работает он на огромных просторах нашей Родины, имя ему Ипполит.

-О! Тепленькая пошла! Я про мысль в нашем отечестве. При чем, разработки сохранены и приумножены из СССР! на зависть всем, чуть подробнее тут:

В зачем?

Во первых, для создания своих сетей ИИ, к примеру.

Если у вас есть желание работать с ИИ на даче, а интернет там, мягко выражаясь слабоват… у нас же качество интернета в удаленных уголках страны, а спутниковый интернет не для программирования (((.

Локальный набор инструментов ИИ ( интерпретаторы AI )

Просто движок ИИ работать а вашем ПК не будет. ДЛя его запуска необходимы специальные программы: интерпретаторы AI

Загрузить и запустить ИИ: Llama, DeepSeek, Mistral, Phi на своем компьютере/сервере.

 

Кроме того можно создать: Кроссплатформенный локальный ИИ SDK

Требование к компьютеру для установки ИИ локально:

Минимально вам нужно будет иметь на компьютере 8Гб оперативки и видеокарту на 8Гб, свободного места на SSD диске: от 100Гб, а лучше 1Тб. Аппетит, как говорится, приходит во время еды ;-). Процессор должен быть свежий не более 5 летней давности, начиная с камня Intel i3 Core 4

На слабых ПК увидите: «Вероятно, слишком велика для этой машины»

Интерпретатор ИИ LM Studio — https://lmstudio.ai/

После установки LM Studio займет на вашем ПК после установки, в сумме, около 4Гб в C:/Users/МОЯУЧЕТКА/AppData/Local/…  папка по умолчанию (можете сами попробовать  установить в другое место )

Первое окно программы предлагает пройти дальше: Get your first LLM -> и установить по умолчанию ИИ Llama 3.2 1B • Meta ( вероятно после анализа моего ПК )

Это: Миниатюрная и быстрая модель Llama от Meta, оптимизированная для использования в многоязычных диалогах. Размер скачиваемого файла 1,32Гб После скачивания и установки в LM Studio на компе сократился объем диска на 4Гб.

Есть так же малозаметная строка в верхнем правом углу: Пропустить регистрацию ->

Далее жмем [Старт нового чата]:

Оповещение внизу справа, говорит нам о загруженной перво модели ИИ:

Жмем «Load Model» и загружаем в интерпретатор модель Llama 3.2 1B Instruct ~8_0-GGUF —  индикатор загрузки отображается в самом верху окна интерпретатора:

Далее можно нажать ⚙️ справа внизу и изменить язык интерфейса.

Но даже без переключения на русский язык ( переключение Языка на Русский (BETA) не дает полного текста в программе на русском, а часть перевода оставляет желать лучшего! ):

 

У меня запрос без включения русского языка в настройках, вида: Напиши код бокового меня на сайт в html коде.

Интерпретатор распознал мой язык запроса и выдал кое что, конечно далекое от совершенства, но тут уж без человеческой доработки точно не обойтись:

======================Начало цитаты ========================================
You

напиши код бокового меня на сайт в html коде

Assistant
llama-3.2-1b-instruct

Пусть вы хотели бы изменить боковое содержание страницы в HTML-странице. В этом случае вы не делаете этого, поскольку боковое содержание всегда находится в нижнем部分ом страницы.

Если вы хотите добавлять или вычитать элемент из бокового содержания, то это будет done с помощью CSS, а не с помощью HTML.

Однако если вы хотели бы изменить контент бокового окна, то это можно сделать так:

Стиль

 боковое-контент {
  height: 100vh;
  width: 100vw;
}

 

Это будет создавать в верхней части и в widestке экрана отдельный блоков content.

Диагональное контент

<div class="back-content">
  <button>Обратите внимание!</button>
</div>

<div class="back-content">
  <p>Это будет текст.</p>
</div>

 

Используя диагональные элементы, можно создавать два отдельных боковое окна.

Управление на клике

Чтобы clickable элементы в боковых блоках вращались с помощью JavaScript, вы должны использовать HTML-объединение. Однако это требует использования HTML5 и JavaScript.

<div class="back-content">
  <button id="back-btn">Назначьте</button>
</div>

<div class="back-content">
  <p>Это будет текст.</p>
</div>

<script>
  const backBtn = document.getElementById('back-btn');
  
  backBtn.addEventListener('click', () => {
    // Это будет запускать функцию для вращения элемента на клике
  });
</script>

 

Кроме того, чтобы создавать веб-анинтерно, вы должны использовать JavaScript. Однако это требует использования HTML5 и JavaScript.

const backBtn = document.getElementById('back-btn');
backBtn.addEventListener('click', () => {
  // Это будет запускать функцию для вращения элемента на клике
  const element = backBtn.parentNode;
  // Ищите элемент в веб-странице
  const elementInPage = window.document.querySelector('.back-content > *'); 
  if (elementInPage) { 
    element.style.top = '-100%'; 
    backBtn.style.position = 'absolute'; 
  }
});

 

Обратите внимание, что эти примеры не имеют отношения к боковому меню в traditional browser-окна. Бoksовое меню на самом деле представляет собой элементы HTML5 — <nav> и <aside>, которые можно использовать для создания боковых блоков на веб-странице.

====================== конец цитаты ========================================

Загрузка ИИ других моделей в LM Studio:

Жмем на ⚙️ внизу справа и затем выбираем [Model Sear…(ch)]:

На 05-04-2025 доступны модели ИИ для загрузки:

 

 

Интерпретатор ИИ Ollama — https://ollama.com/library/deepseek-r1:1.5b

но мне она показалась менее удобной, хоть она и поддерживает установку большего количества ИИ чат ботов.

Результаты тестирования:

DeepSeek R1 Distill (Llama 8B). Перед загрузкой я рекомендую изменить папку хранения модели. Названия папки должны быть на латинице без пробелов!

Установить полную модель DeepSeek мы не сможем

да и нам этого не нужно, поэтому мы будем ставить выжимку из выжимки и поверьте она работает прекрасно на уровне чат GPT o4

Офисный миниПК: Процессор Intel(R) Core(TM) i3-6100U CPU @ 2.30GHz 2.30GHz, 8ГБ, Intel(R) HD Graphics 520 VRAM 0GB, Windows 10Pro

Параметры можно узнать в настройках LM Studio: ⚙️ -> Hardware

StableCode 3b-Q6_K (2.29Гб) — работает, не быстро и на английском.

Mistral 7B Instruct v0.3 IQ3_M —

Llama 3.2 1B Instruct 8.0 (1.32Гб) — работает.

Llama 3.2 3B Instruct Q8 (3.42Гб) — работает, медленнее.

Qwen2.5 7B Instruct 1M (Q3_K_L, 4.09Гб) — работает, но можно поспать! 

Qwen2.5 7B в разных версия выдает сообщение: «Вероятно, слишком велика для этой машины». И работает, как черепаха.

Системный блок: Intel(R) N100 800МГц, RAM 16Гб, Встроенное видео UHD, Windows 11

Загрузить нf этот блок смог больше ИИ? Примерно в 2 раза, но скорость та еще(.

 

Вывод, запускать движки на слабых ПК, особенно без видео процессоров,  не имеет смысла!

Лично я побежал за видеоускорителем к своему старенькому системнику…))

 

Часто задаваемые вопросы

1. Какой ИИ-инструмент лучше всего подходит для автодополнения кода?

GitHub Copilot и Tabnine — лучшие варианты для автодополнения кода благодаря их точности и поддержке различных языков.

2. Могу ли я использовать ИИ для написания сложного кода?

Да, такие инструменты, как Codex и ChatGPT, могут помочь с написанием сложных алгоритмов и решений.

3. Какие ИИ-инструменты подходят для анализа безопасности кода?

DeepCode и Amazon CodeWhisperer предлагают мощные функции анализа безопасности для обнаружения уязвимостей.

4. Подходит ли ChatGPT для программистов?

Да, ChatGPT отлично подходит для объяснения концепций и помощи с написанием и отладкой кода.

5. Какие преимущества у Replit Ghostwriter?

Полная интеграция с Replit, исправление ошибок в реальном времени и качественное автодополнение.

6. Какой ИИ-инструмент наиболее доступен по цене?

Codeium и Kite полностью бесплатны и предлагают достойные функции автодополнения.

7. Какие ИИ-платформы поддерживают командную работу?

Tabnine и Sourcegraph Cody имеют функции для совместной работы в команде.

8. Какие языки программирования поддерживает Tabnine?

Tabnine поддерживает более 20 языков, включая Python, Java, JavaScript, и многие другие.

9. Могут ли ИИ-инструменты помочь с написанием тестов?

Да, GitHub Copilot и Replit Ghostwriter могут генерировать тесты для вашего кода.

10. Как ИИ помогает улучшить производительность разработчика?

Автодополнение и генерация кода экономят время, а анализ ошибок повышает качество программирования.

 

Оцените статью
Добавить комментарии
Как установить ИИ (AI) DeepSeek на локальный компьютер
Отключаем обновления в WP >>
× Спросить