PrivateGPT - История изменений

Dzmuh в 06:04, 26 января 2026

2026-01-26T06:04:24Z

← Предыдущая версия		Версия от 06:04, 26 января 2026
Строка 1:		Строка 1:
	'''PrivateGPT''' - это инструмент для задавания вопросов к документам без подключения к интернету, используя мощь LLMs, с полной конфиденциальностью, так как данные не покидают локальную среду выполнения, позволяющий загружать документы и задавать вопросы без подключения к интернету, разработанный с использованием LangChain, GPT4All, LlamaCpp, Chroma и SentenceTransformers.		'''PrivateGPT''' - это инструмент для задавания вопросов к документам без подключения к интернету, используя мощь LLMs, с полной конфиденциальностью, так как данные не покидают локальную среду выполнения, позволяющий загружать документы и задавать вопросы без подключения к интернету, разработанный с использованием LangChain, [[GPT4All]], LlamaCpp, Chroma и SentenceTransformers.

	== Как работает PrivateGPT ==		== Как работает PrivateGPT ==

Dzmuh: /* Ссылки */

2024-01-15T17:43:36Z

Ссылки

← Предыдущая версия		Версия от 17:43, 15 января 2024
Строка 114:		Строка 114:
	Статьи:		Статьи:

	* ~~<ref>~~{{cite web		* {{cite web
	\|url = https://tproger.ru/articles/privategpt-yazykovaya-model-dlya-raboty-s-dokumentami		\|url = https://tproger.ru/articles/privategpt-yazykovaya-model-dlya-raboty-s-dokumentami
	\|title = PrivateGPT — модель для работы с личным набором данных		\|title = PrivateGPT — модель для работы с личным набором данных
Строка 123:		Строка 123:
	\|archive-url = https://web.archive.org/web/20230616141305/https://tproger.ru/articles/privategpt-yazykovaya-model-dlya-raboty-s-dokumentami/		\|archive-url = https://web.archive.org/web/20230616141305/https://tproger.ru/articles/privategpt-yazykovaya-model-dlya-raboty-s-dokumentami/
	\|archive-date = 2023-06-16		\|archive-date = 2023-06-16
	}}~~</ref>~~		}}

	[[Категория:Категоризовать]]		[[Категория:Категоризовать]]

	[[Категория:Программное обеспечение по алфавиту]]		[[Категория:Программное обеспечение по алфавиту]]

Dzmuh: /* Ссылки */

2024-01-15T16:29:34Z

Ссылки

← Предыдущая версия		Версия от 16:29, 15 января 2024
Строка 111:		Строка 111:
	== Ссылки ==		== Ссылки ==
	* {{github\|imartinez\|privateGPT}}		* {{github\|imartinez\|privateGPT}}

			Статьи:

			* <ref>{{cite web
			\|url = https://tproger.ru/articles/privategpt-yazykovaya-model-dlya-raboty-s-dokumentami
			\|title = PrivateGPT — модель для работы с личным набором данных
			\|lang = ru
			\|date = 2023-05-30
			\|access-date = 2024-01-15
			\|website = TProger
			\|archive-url = https://web.archive.org/web/20230616141305/https://tproger.ru/articles/privategpt-yazykovaya-model-dlya-raboty-s-dokumentami/
			\|archive-date = 2023-06-16
			}}</ref>

	[[Категория:Категоризовать]]		[[Категория:Категоризовать]]

	[[Категория:Программное обеспечение по алфавиту]]		[[Категория:Программное обеспечение по алфавиту]]

Dzmuh: /* Как собрать свой датасет для PrivateGPT */

2024-01-15T16:23:13Z

Как собрать свой датасет для PrivateGPT

@@ Строка 73: / Строка 73: @@
 Ingestion complete! You can now run privateGPT.py to query your documents
 </syntaxhighlight>
 == См. также ==

Dzmuh: /* Устанавливаем PrivateGPT */

2024-01-15T16:21:04Z

Устанавливаем PrivateGPT

← Предыдущая версия		Версия от 16:21, 15 января 2024
Строка 33:		Строка 33:

	Примечание: из-за того, что модель загружает вложения SentenceTransformers, при первом запуске скрипта потребуется подключение к Интернету.		Примечание: из-за того, что модель загружает вложения SentenceTransformers, при первом запуске скрипта потребуется подключение к Интернету.

			== Как собрать свой датасет для PrivateGPT ==

			Поместите все файлы с нужной вам информацией в каталог source_documents.

			Вот, какие расширения поддерживает PrivateGPT:

			* .csv: CSV,
			* .docx: Word Document,
			* .doc: Word Document,
			* .enex: EverNote,
			* .eml: Email,
			* .epub: EPub,
			* .html: HTML File,
			* .md: Markdown,
			* .msg: Outlook Message,
			* .odt: Open Document Text,
			* .pdf: Portable Document Format (PDF),
			* .pptx : PowerPoint Document,
			* .ppt : PowerPoint Document,
			* .txt: Text file (UTF-8),

			Выполните следующую команду, чтобы загрузить все данные в модель.

			<syntaxhighlight lang="bash">
			python ingest.py
			</syntaxhighlight>

			Вывод должен выглядеть так:

			<syntaxhighlight lang="bash">
			Creating new vectorstore
			Loading documents from source_documents
			Loading new documents: 100%\|██████████████████████\| 1/1 [00:01<00:00, 1.73s/it]
			Loaded 1 new documents from source_documents
			Split into 90 chunks of text (max. 500 tokens each)
			Creating embeddings. May take some minutes...
			Using embedded DuckDB with persistence: data will be stored in: db
			Ingestion complete! You can now run privateGPT.py to query your documents
			</syntaxhighlight>

	== См. также ==		== См. также ==

Dzmuh: /* Устанавливаем PrivateGPT */

2024-01-15T16:19:14Z

Устанавливаем PrivateGPT

← Предыдущая версия		Версия от 16:19, 15 января 2024
Строка 31:		Строка 31:
	TARGET_SOURCE_CHUNKS: The amount of chunks (sources) that will be used to answer a question		TARGET_SOURCE_CHUNKS: The amount of chunks (sources) that will be used to answer a question
	</syntaxhighlight>		</syntaxhighlight>

			Примечание: из-за того, что модель загружает вложения SentenceTransformers, при первом запуске скрипта потребуется подключение к Интернету.

	== См. также ==		== См. также ==

Dzmuh в 16:18, 15 января 2024

2024-01-15T16:18:42Z

← Предыдущая версия		Версия от 16:18, 15 января 2024
Строка 1:		Строка 1:
	'''PrivateGPT''' - это инструмент для задавания вопросов к документам без подключения к интернету, используя мощь LLMs, с полной конфиденциальностью, так как данные не покидают локальную среду выполнения, позволяющий загружать документы и задавать вопросы без подключения к интернету, разработанный с использованием LangChain, GPT4All, LlamaCpp, Chroma и SentenceTransformers.		'''PrivateGPT''' - это инструмент для задавания вопросов к документам без подключения к интернету, используя мощь LLMs, с полной конфиденциальностью, так как данные не покидают локальную среду выполнения, позволяющий загружать документы и задавать вопросы без подключения к интернету, разработанный с использованием LangChain, GPT4All, LlamaCpp, Chroma и SentenceTransformers.

			== Как работает PrivateGPT ==

			Используя локальные модели LangChain, вы можете запустить всю модель на своём ПК, и данные не будут покидать вашу среду. При этом разработчики гарантируют хорошую производительность.

			ingest.py использует инструменты LangChain для анализа документа и локального создания вложений с помощью HuggingFaceEmbeddings (SentenceTransformers). Затем Он сохраняет результат в локальной векторной базе данных, используя хранилище векторов Chroma.

			privateGPT.py использует локальный LLM на основе GPT4All-J или LlamaCpp для анализа вопросов и генерации ответов. Контекст для ответов извлекается из локального хранилища векторов с помощью поиска по сходству.

			== Устанавливаем PrivateGPT ==

			Чтобы подготовить среду для запуска, сперва нужно установить все зависимости:

			<syntaxhighlight lang="bash">
			pip3 install -r requirements.txt
			</syntaxhighlight>

			Затем загрузите модель LLM и поместите её в нужный вам каталог.

			По умолчанию используется языковая модель ggml-gpt4all-j-v1.3-groovy.bin. Если вы хотите использовать другую модель, совместимую с GPT4All-J, просто загрузите её и укажите в своем файле .env.

			После загрузки модели, переименуйте файл example.env в .env и отредактируйте содержимое файла по примеру ниже.

			<syntaxhighlight lang="bash">
			MODEL_TYPE: supports LlamaCpp or GPT4All
			PERSIST_DIRECTORY: is the folder you want your vectorstore in
			MODEL_PATH: Path to your GPT4All or LlamaCpp supported LLM
			MODEL_N_CTX: Maximum token limit for the LLM model
			EMBEDDINGS_MODEL_NAME: SentenceTransformers embeddings model name (see https://www.sbert.net/docs/pretrained_models.html)
			TARGET_SOURCE_CHUNKS: The amount of chunks (sources) that will be used to answer a question
			</syntaxhighlight>

	== См. также ==		== См. также ==

Dzmuh: Новая страница: «'''PrivateGPT''' - это инструмент для задавания вопросов к документам без подключения к интернету, используя мощь LLMs, с полной конфиденциальностью, так как данные не покидают локальную среду выполнения, позволяющий загружать документы и задавать вопросы без...»

2024-01-15T08:39:40Z

Новая страница: «'''PrivateGPT''' - это инструмент для задавания вопросов к документам без подключения к интернету, используя мощь LLMs, с полной конфиденциальностью, так как данные не покидают локальную среду выполнения, позволяющий загружать документы и задавать вопросы без...»

Новая страница

'''PrivateGPT''' - это инструмент для задавания вопросов к документам без подключения к интернету, используя мощь LLMs, с полной конфиденциальностью, так как данные не покидают локальную среду выполнения, позволяющий загружать документы и задавать вопросы без подключения к интернету, разработанный с использованием LangChain, GPT4All, LlamaCpp, Chroma и SentenceTransformers.

== См. также ==
* [[LocalGPT]]

== Ссылки ==
* {{github|imartinez|privateGPT}}

[[Категория:Категоризовать]]

[[Категория:Программное обеспечение по алфавиту]]