Как установить ИИ (AI) DeepSeek на локальный компьютер

Содержание
  1. Установка ИИ на свой компьютер ( сервер )
  2. В зачем?
  3. Локальный набор инструментов ИИ ( интерпретаторы AI )
  4. Требование к компьютеру для установки ИИ локально:
  5. На слабых ПК увидите: «Вероятно, слишком велика для этой машины»
  6. Интерпретатор ИИ LM Studio — https://lmstudio.ai/
  7. Загрузка ИИ других моделей в LM Studio:
  8. На 05-04-2025 доступны модели ИИ для загрузки:
  9. Интерпретатор ИИ Ollama — https://ollama.com/library/deepseek-r1:1.5b
  10. Результаты тестирования:
  11. Установить полную модель DeepSeek мы не сможем
  12. Офисный миниПК: Процессор Intel(R) Core(TM) i3-6100U CPU @ 2.30GHz 2.30GHz, 8ГБ, Intel(R) HD Graphics 520 VRAM 0GB, Windows 10Pro
  13. StableCode 3b-Q6_K (2.29Гб) — работает, не быстро и на английском.
  14. Mistral 7B Instruct v0.3 IQ3_M —
  15. Llama 3.2 1B Instruct 8.0 (1.32Гб) — работает.
  16. Llama 3.2 3B Instruct Q8 (3.42Гб) — работает, медленнее.
  17. Qwen2.5 7B Instruct 1M (Q3_K_L, 4.09Гб) — работает, но можно поспать! 
  18. Системный блок: Intel(R) N100 800МГц, RAM 16Гб, Встроенное видео UHD, Windows 11
  19. Часто задаваемые вопросы

Установка ИИ на свой компьютер ( сервер )

Все больше и больше людей начинаю так или иначе сталкиваться с ИИ, даже не подозревая этого! Программисты, всех мастей, уже во всю его используют на разных стадия своих разработок. Сайт ИИ пишет минут за 5. Так что, стоимость труда IP-специалиста дешевеет и становится более востребованной в области использования ИИ!  И тут ЗП остаются высокими, даже огромными!

У нас в России есть свой ИИ ( к сожаления или с счастью к нему нет доступа через внешний интерфейс)! А работает он на огромных просторах нашей Родины, имя ему Ипполит.

-О! Тепленькая пошла! Я про мысль в нашем отечестве. При чем, разработки сохранены и приумножены из СССР! на зависть всем, чуть подробнее тут:

В зачем?

Во первых, для создания своих сетей ИИ, к примеру.

Если у вас есть желание работать с ИИ на даче, а интернет там, мягко выражаясь слабоват… у нас же качество интернета в удаленных уголках страны, а спутниковый интернет не для программирования (((.

Локальный набор инструментов ИИ ( интерпретаторы AI )

Просто движок ИИ работать а вашем ПК не будет. ДЛя его запуска необходимы специальные программы: интерпретаторы AI

Загрузить и запустить ИИ: Llama, DeepSeek, Mistral, Phi на своем компьютере/сервере.

 

Кроме того можно создать: Кроссплатформенный локальный ИИ SDK

Требование к компьютеру для установки ИИ локально:

Минимально вам нужно будет иметь на компьютере 8Гб оперативки и видеокарту на 8Гб, свободного места на SSD диске: от 100Гб, а лучше 1Тб. Аппетит, как говорится, приходит во время еды ;-). Процессор должен быть свежий не более 5 летней давности, начиная с камня Intel i3 Core 4

На слабых ПК увидите: «Вероятно, слишком велика для этой машины»

Интерпретатор ИИ LM Studio — https://lmstudio.ai/

После установки LM Studio займет на вашем ПК после установки, в сумме, около 4Гб в C:/Users/МОЯУЧЕТКА/AppData/Local/…  папка по умолчанию (можете сами попробовать  установить в другое место )

Первое окно программы предлагает пройти дальше: Get your first LLM -> и установить по умолчанию ИИ Llama 3.2 1B • Meta ( вероятно после анализа моего ПК )

Это: Миниатюрная и быстрая модель Llama от Meta, оптимизированная для использования в многоязычных диалогах. Размер скачиваемого файла 1,32Гб После скачивания и установки в LM Studio на компе сократился объем диска на 4Гб.

Есть так же малозаметная строка в верхнем правом углу: Пропустить регистрацию ->

Далее жмем [Старт нового чата]:

Оповещение внизу справа, говорит нам о загруженной перво модели ИИ:

Жмем «Load Model» и загружаем в интерпретатор модель Llama 3.2 1B Instruct ~8_0-GGUF —  индикатор загрузки отображается в самом верху окна интерпретатора:

Далее можно нажать ⚙️ справа внизу и изменить язык интерфейса.

Но даже без переключения на русский язык ( переключение Языка на Русский (BETA) не дает полного текста в программе на русском, а часть перевода оставляет желать лучшего! ):

 

У меня запрос без включения русского языка в настройках, вида: Напиши код бокового меня на сайт в html коде.

Интерпретатор распознал мой язык запроса и выдал кое что, конечно далекое от совершенства, но тут уж без человеческой доработки точно не обойтись:

======================Начало цитаты ========================================
You

напиши код бокового меня на сайт в html коде

Assistant
llama-3.2-1b-instruct

Пусть вы хотели бы изменить боковое содержание страницы в HTML-странице. В этом случае вы не делаете этого, поскольку боковое содержание всегда находится в нижнем部分ом страницы.

Если вы хотите добавлять или вычитать элемент из бокового содержания, то это будет done с помощью CSS, а не с помощью HTML.

Однако если вы хотели бы изменить контент бокового окна, то это можно сделать так:

Стиль

 боковое-контент {
  height: 100vh;
  width: 100vw;
}

 

Это будет создавать в верхней части и в widestке экрана отдельный блоков content.

Диагональное контент

<div class="back-content">
  <button>Обратите внимание!</button>
</div>

<div class="back-content">
  <p>Это будет текст.</p>
</div>

 

Используя диагональные элементы, можно создавать два отдельных боковое окна.

Управление на клике

Чтобы clickable элементы в боковых блоках вращались с помощью JavaScript, вы должны использовать HTML-объединение. Однако это требует использования HTML5 и JavaScript.

<div class="back-content">
  <button id="back-btn">Назначьте</button>
</div>

<div class="back-content">
  <p>Это будет текст.</p>
</div>

<script>
  const backBtn = document.getElementById('back-btn');
  
  backBtn.addEventListener('click', () => {
    // Это будет запускать функцию для вращения элемента на клике
  });
</script>

 

Кроме того, чтобы создавать веб-анинтерно, вы должны использовать JavaScript. Однако это требует использования HTML5 и JavaScript.

const backBtn = document.getElementById('back-btn');
backBtn.addEventListener('click', () => {
  // Это будет запускать функцию для вращения элемента на клике
  const element = backBtn.parentNode;
  // Ищите элемент в веб-странице
  const elementInPage = window.document.querySelector('.back-content > *'); 
  if (elementInPage) { 
    element.style.top = '-100%'; 
    backBtn.style.position = 'absolute'; 
  }
});

 

Обратите внимание, что эти примеры не имеют отношения к боковому меню в traditional browser-окна. Бoksовое меню на самом деле представляет собой элементы HTML5 — <nav> и <aside>, которые можно использовать для создания боковых блоков на веб-странице.

====================== конец цитаты ========================================

Загрузка ИИ других моделей в LM Studio:

Жмем на ⚙️ внизу справа и затем выбираем [Model Sear…(ch)]:

На 05-04-2025 доступны модели ИИ для загрузки:

 

 

Интерпретатор ИИ Ollama — https://ollama.com/library/deepseek-r1:1.5b

но мне она показалась менее удобной, хоть она и поддерживает установку большего количества ИИ чат ботов.

Результаты тестирования:

DeepSeek R1 Distill (Llama 8B). Перед загрузкой я рекомендую изменить папку хранения модели. Названия папки должны быть на латинице без пробелов!

Установить полную модель DeepSeek мы не сможем

да и нам этого не нужно, поэтому мы будем ставить выжимку из выжимки и поверьте она работает прекрасно на уровне чат GPT o4

Офисный миниПК: Процессор Intel(R) Core(TM) i3-6100U CPU @ 2.30GHz 2.30GHz, 8ГБ, Intel(R) HD Graphics 520 VRAM 0GB, Windows 10Pro

Параметры можно узнать в настройках LM Studio: ⚙️ -> Hardware

StableCode 3b-Q6_K (2.29Гб) — работает, не быстро и на английском.

Mistral 7B Instruct v0.3 IQ3_M —

Llama 3.2 1B Instruct 8.0 (1.32Гб) — работает.

Llama 3.2 3B Instruct Q8 (3.42Гб) — работает, медленнее.

Qwen2.5 7B Instruct 1M (Q3_K_L, 4.09Гб) — работает, но можно поспать! 

Qwen2.5 7B в разных версия выдает сообщение: «Вероятно, слишком велика для этой машины». И работает, как черепаха.

Системный блок: Intel(R) N100 800МГц, RAM 16Гб, Встроенное видео UHD, Windows 11

Загрузить нf этот блок смог больше ИИ? Примерно в 2 раза, но скорость та еще(.

 

Вывод, запускать движки на слабых ПК, особенно без видео процессоров,  не имеет смысла!

Лично я побежал за видеоускорителем к своему старенькому системнику…))

 

Часто задаваемые вопросы

1. Какой ИИ-инструмент лучше всего подходит для автодополнения кода?

GitHub Copilot и Tabnine — лучшие варианты для автодополнения кода благодаря их точности и поддержке различных языков.

2. Могу ли я использовать ИИ для написания сложного кода?

Да, такие инструменты, как Codex и ChatGPT, могут помочь с написанием сложных алгоритмов и решений.

3. Какие ИИ-инструменты подходят для анализа безопасности кода?

DeepCode и Amazon CodeWhisperer предлагают мощные функции анализа безопасности для обнаружения уязвимостей.

4. Подходит ли ChatGPT для программистов?

Да, ChatGPT отлично подходит для объяснения концепций и помощи с написанием и отладкой кода.

5. Какие преимущества у Replit Ghostwriter?

Полная интеграция с Replit, исправление ошибок в реальном времени и качественное автодополнение.

6. Какой ИИ-инструмент наиболее доступен по цене?

Codeium и Kite полностью бесплатны и предлагают достойные функции автодополнения.

7. Какие ИИ-платформы поддерживают командную работу?

Tabnine и Sourcegraph Cody имеют функции для совместной работы в команде.

8. Какие языки программирования поддерживает Tabnine?

Tabnine поддерживает более 20 языков, включая Python, Java, JavaScript, и многие другие.

9. Могут ли ИИ-инструменты помочь с написанием тестов?

Да, GitHub Copilot и Replit Ghostwriter могут генерировать тесты для вашего кода.

10. Как ИИ помогает улучшить производительность разработчика?

Автодополнение и генерация кода экономят время, а анализ ошибок повышает качество программирования.

 

Оцените статью
Добавить комментарии
Как установить ИИ (AI) DeepSeek на локальный компьютер
начальные установки темы Yelly Тема на Wordpress заточенная под социальные сети
Как быстро настроить тему Yelly 3.0.3?