Deploying DeepSeek-R1 Locally with a Custom RAG Knowledge Data Base

Updated 23,102 1
English 简体中文 繁体中文 ภาษาไทย Tiếng Việt
Summary

Deploying DeepSeek-R1 locally with a custom Retrieval-Augmented Generation (RAG) knowledge base enables powerful, domain-specific AI applications while ensuring data privacy. This setup involves using Ollama to run DeepSeek-R1, nomic-embed-text for vector embeddings, and AnythingLLM to integrate documents and manage the RAG pipeline. The process demonstrates how to load proprietary data, transforming the LLM into an expert system for tasks like AI chatbots or code generation. Testing revealed significant improvements in response accuracy and relevance when RAG was enabled, though human oversight remains crucial for generated code. This approach offers a robust solution for localized, intelligent insights grounded in specific knowledge.

จุดประสงค์การออกแบบโครงการ : เป้าหมายหลักของบทความนี้คือการสำรวจวิธีการปรับใช้ DeepSeek-R1 ซึ่งเป็นโมเดลภาษาขนาดใหญ่ (LLM) แบบโอเพนซอร์ส และผสานรวมเข้ากับฐานความรู้ Retrieval-Augmented Generation (RAG) ที่ปรับแต่งเองบนเครื่องของคุณ (PC/server) การตั้งค่านี้ช่วยให้โมเดลสามารถใช้ความรู้เฉพาะด้านเพื่อการตอบสนองในระดับผู้เชี่ยวชาญ ในขณะที่ยังคงรักษาความเป็นส่วนตัวของข้อมูลและความยืดหยุ่นในการปรับแต่ง ด้วยการทำเช่นนี้ ผู้ใช้สามารถเพิ่มพูนความเชี่ยวชาญของโมเดลในโดเมนทางเทคนิคเฉพาะ ทำให้สามารถใช้งานแอปพลิเคชันต่างๆ เช่น แชทบอทสนับสนุนที่ขับเคลื่อนด้วย AI การสร้างโค้ดส่วนตัว และผู้ช่วยเฉพาะอุตสาหกรรม ที่สำคัญที่สุดคือ การตั้งค่านี้ช่วยให้ผู้ใช้เก็บข้อมูลที่เป็นกรรมสิทธิ์ไว้เป็นส่วนตัว ทำให้มั่นใจได้ว่าเอกสารที่ละเอียดอ่อน ซอฟต์แวร์ที่มีลิขสิทธิ์ หรือข้อมูลที่ไม่เปิดเผยต่อสาธารณะยังคงปลอดภัย ในขณะที่ยังคงได้รับประโยชน์จากข้อมูลเชิงลึกที่ขับเคลื่อนด้วย AI

การนำไปใช้งานในบทความนี้ครอบคลุมสี่ส่วนหลัก :

  • การติดตั้งและเรียกใช้ DeepSeek-R1 ในเครื่อง บนเครื่อง Windows ที่มี NVIDIA RTX 3060 GPU

  • การตั้งค่าไปป์ไลน์ RAG โดยใช้ nomic-embed-text สำหรับการดึงข้อความตามเวกเตอร์

  • การปรับใช้ AnythingLLM เพื่อผสานรวมการตอบสนอง AI ตามเอกสาร

  • การทดสอบ DeepSeek-R1 โดยมีและไม่มี RAG แสดงให้เห็นถึงความแม่นยำในการตอบคำถามเฉพาะด้าน

# Version:     v_0.0.1
# Created:     2025/02/06
# License:     MIT License

บทนำ

DeepSeek ซึ่งเป็นบริษัท AI สัญชาติจีน กำลังสร้างความเปลี่ยนแปลงให้กับอุตสาหกรรมด้วยโมเดลภาษาขนาดใหญ่แบบโอเพนซอร์สราคาถูก ซึ่งท้าทายบริษัทยักษ์ใหญ่ด้านเทคโนโลยีของสหรัฐฯ ได้แสดงให้เห็นถึงประสิทธิภาพสูงในด้านคณิตศาสตร์ การเขียนโค้ด การสนทนาภาษาอังกฤษและภาษาจีน โมเดล DeepSeek-R1 เป็นโอเพนซอร์ส (MIT License) บทความนี้จะสำรวจขั้นตอนโดยละเอียดในการปรับใช้โมเดล DeepSeek-R1:7B LLM บนแล็ปท็อป Windows ที่มี NVIDIA RTX 3060 (12GB GPU) เพื่อสร้างแชทบอทที่ขับเคลื่อนด้วย AI ที่ปรับแต่งเอง หรือโปรแกรมสร้างโค้ดโดยใช้ฐานข้อมูลความรู้ Retrieval-Augmented Generation (RAG) และทำการเปรียบเทียบอย่างง่ายระหว่างคำตอบ LLM ปกติและคำตอบ RAG

  • สำหรับแชทบอทบริการลูกค้า AI เราต้องการให้แชทบอทให้ข้อมูลตามเอกสารผลิตภัณฑ์ของบริษัท ทำให้เป็นเครื่องมือที่มีประสิทธิภาพสำหรับการจัดการความรู้ภายในและการสนับสนุนลูกค้า

  • สำหรับโปรแกรมสร้างโค้ด AI เราต้องการให้โปรแกรมช่วยในการพัฒนาซอฟต์แวร์โดยการสร้างส่วนย่อยของโค้ดตาม APIs โปรแกรมที่มีอยู่ หรือนำเข้าฟังก์ชันจากไลบรารีที่กำหนดเอง

ในการนำโครงการนี้ไปใช้งาน เราจะใช้เครื่องมือหลักสี่อย่าง:

  • Ollama : เฟรมเวิร์กน้ำหนักเบาและขยายได้สำหรับการสร้างและเรียกใช้โมเดลภาษาบนเครื่อง > ลิงก์

  • DeepSeek-R1 : โมเดลที่ได้รับการฝึกฝนผ่านการเรียนรู้แบบเสริมกำลังขนาดใหญ่ (RL) โดยไม่มีการปรับแต่งอย่างละเอียดภายใต้การดูแล (SFT) เป็นขั้นตอนเบื้องต้น แสดงให้เห็นถึงประสิทธิภาพที่โดดเด่นในการให้เหตุผล > ลิงก์

  • nomic-embed-text : โมเดลการฝังข้อความแบบโอเพนซอร์สที่แปลงข้อความเป็นเวกเตอร์ตัวเลข ทำให้คอมพิวเตอร์เข้าใจความหมายเชิงความหมายของข้อความโดยการเปรียบเทียบการแสดงกับข้อความอื่นๆ > ลิงก์

  • AnythingLLM : แชทบอท AI แบบโอเพนซอร์สที่ช่วยให้ผู้ใช้แชทกับเอกสาร ได้รับการออกแบบมาเพื่อช่วยให้ธุรกิจและองค์กรต่างๆ ทำให้เอกสารที่เป็นลายลักษณ์อักษรของตนเข้าถึงได้ง่ายขึ้น > ลิงก์

แนวทางนี้ช่วยปรับปรุงการตัดสินใจโดยใช้ AI การสนับสนุนทางเทคนิค และการพัฒนาซอฟต์แวร์ อย่างมีนัยสำคัญ โดยทำให้มั่นใจได้ว่าการตอบสนองนั้นมีพื้นฐานมาจากข้อมูลที่น่าเชื่อถือและเฉพาะโดเมน

ความรู้พื้นฐาน

DeepSeek-R1: LLM โอเพนซอร์สประสิทธิภาพสูง

DeepSeek AI กำลังบุกเบิกยุคใหม่ของโมเดลภาษาขนาดใหญ่ (LLMs) ที่ใช้เหตุผลด้วยซีรีส์ DeepSeek-R1 ซึ่งออกแบบมาเพื่อผลักดันขอบเขตของความสามารถในการให้เหตุผลทางคณิตศาสตร์ การเขียนโค้ด และตรรกะ แตกต่างจาก LLMs แบบดั้งเดิมที่พึ่งพาการปรับแต่งอย่างละเอียดภายใต้การดูแล (SFT) อย่างมาก DeepSeek AI ใช้วิธีการเรียนรู้แบบเสริมกำลัง (RL) เป็นอันดับแรก ทำให้โมเดลพัฒนาพฤติกรรมการให้เหตุผลที่ซับซ้อนได้อย่างเป็นธรรมชาติ

วิวัฒนาการของโมเดล DeepSeek-R1

  • DeepSeek-R1-Zero เป็นโมเดลรุ่นแรกที่ได้รับการฝึกฝนอย่างหมดจดผ่านการเรียนรู้แบบเสริมกำลังขนาดใหญ่ (RL) ทำให้สามารถตรวจสอบตนเอง สะท้อน และสร้างสายโซ่ความคิดที่ยาวนาน (CoT) โดยไม่มี SFT อย่างไรก็ตาม โมเดลนี้เผชิญกับความท้าทายต่างๆ เช่น การผสมภาษา ปัญหาด้านความสามารถในการอ่าน และเอาต์พุตซ้ำๆ

  • DeepSeek-R1 ปรับปรุงสิ่งนี้โดยการรวมข้อมูล cold-start ก่อนการฝึก RL ส่งผลให้โมเดลมีความละเอียดและสอดคล้องกับมนุษย์มากขึ้น โดยมีประสิทธิภาพเทียบเท่ากับ OpenAI-o1 ในเกณฑ์มาตรฐานการให้เหตุผลต่างๆ

ลิงก์อ้างอิง : https://api-docs.deepseek.com/

ทำความเข้าใจ Retrieval-Augmented Generation (RAG)

Retrieval-augmented generation เป็นเทคนิคสำหรับการปรับปรุงความแม่นยำและความน่าเชื่อถือของโมเดล AI เชิงสร้างสรรค์ด้วยข้อมูลจากแหล่งข้อมูลเฉพาะและเกี่ยวข้อง RAG ช่วยเพิ่มประสิทธิภาพโมเดล AI เชิงสร้างสรรค์โดยการดึงข้อมูลภายนอกก่อนสร้างการตอบสนอง นำไปสู่คำตอบที่แม่นยำ ทันสมัย และคำนึงถึงบริบทมากขึ้น

ขั้นตอนการทำงานของ RAS แสดงไว้ด้านล่าง:

  • ในขั้นตอนการถาม-ตอบ LLM ปกติ เมื่อผู้ใช้ถามคำถาม Thee LLM จะประมวลผลอินพุตและสร้างคำตอบโดยอิงจากความรู้ที่ได้รับการฝึกฝนมาล่วงหน้าเท่านั้น ไม่มีการดึงข้อมูลภายนอก ซึ่งหมายความว่าข้อมูลที่ล้าสมัยหรือขาดหายไปไม่สามารถแก้ไขได้

  • ในLLM พร้อมขั้นตอนการถาม-ตอบ RAG เมื่อผู้ใช้ถามคำถาม ระบบจะดึงข้อมูลที่เกี่ยวข้องจากแหล่งภายนอก (ฐานข้อมูล เอกสาร APIs หรือเว็บ) ก่อน ข้อมูลที่ดึงมาจะถูกป้อนเข้าสู่ LLM พร้อมกับคำถามเดิม จากนั้น LLM จะสร้างคำตอบโดยอิงจากทั้งความรู้ที่ได้รับการฝึกฝนมาล่วงหน้าและข้อมูลที่ดึงมา นำไปสู่การตอบสนองที่แม่นยำและทันสมัยยิ่งขึ้น

ลิงก์อ้างอิง : https://blogs.nvidia.com/blog/what-is-retrieval-augmented-generation/

ขั้นตอนที่ 1 : ปรับใช้โมเดล DeepSeek-R1 บนเครื่องของคุณ

ในการตั้งค่าโมเดล DeepSeek-R1 ในเครื่องของคุณ ขั้นแรกคุณต้องติดตั้ง Ollama ซึ่งเป็นเฟรมเวิร์กน้ำหนักเบาและขยายได้สำหรับการรันโมเดลภาษาขนาดใหญ่บนเครื่องของคุณ จากนั้น คุณจะต้องดาวน์โหลดโมเดล DeepSeek-R1 ที่เหมาะสมตามข้อกำหนดของฮาร์ดแวร์ของคุณ

1.1 ติดตั้ง Ollama

ดาวน์โหลด Ollama จากเว็บไซต์ทางการ: https://ollama.com/download และเลือกแพ็กเกจการติดตั้งสำหรับระบบปฏิบัติการของคุณ:

เมื่อการติดตั้งเสร็จสมบูรณ์ ให้ตรวจสอบว่า Ollama ได้รับการติดตั้งอย่างถูกต้องโดยรันคำสั่งต่อไปนี้ในเทอร์มินัล:

ollama --version

หากหมายเลขเวอร์ชันปรากฏขึ้น แสดงว่า Ollama พร้อมใช้งาน:

ต่อไป ให้เริ่มบริการ Ollama โดยรัน:

ollama serve

1.2 เลือกโมเดล DeepSeek-R1 ที่เหมาะสม

DeepSeek-R1 มีโมเดลให้เลือกตั้งแต่รุ่นขนาดกะทัดรัด 1.5 พันล้านพารามิเตอร์ ไปจนถึงโมเดลขนาดใหญ่ 671 พันล้านพารามิเตอร์ ขนาดโมเดลที่คุณเลือกควรตรงกับหน่วยความจำ GPU (VRAM) และทรัพยากรระบบของคุณ ใน Ollama web ให้เลือก models จากนั้นค้นหา deepseek ดังที่แสดงด้านล่าง:

ด้านล่างนี้คือตารางข้อกำหนดของฮาร์ดแวร์เพื่อช่วยคุณตัดสินใจว่าจะปรับใช้โมเดลใด หากฮาร์ดแวร์ของคุณต่ำกว่าสเปคที่แนะนำ คุณยังสามารถรันโมเดลที่ใหญ่กว่าได้โดยใช้เครื่องมือเพิ่มประสิทธิภาพฮาร์ดแวร์ เช่น LMStudio (https://lmstudio.ai/) แต่จะทำให้เวลาในการประมวลผลเพิ่มขึ้น ข้อกำหนดของฮาร์ดแวร์ DeepSeek-R1 :

ชื่อโมดูล ระดับประเภทโมเดล GPU VRAM CPU RAM ดิสก์
deepseek-r1:1.5b เข้าถึงได้ ไม่จำเป็นต้องใช้ GPU หรือ VRAM เฉพาะ CPU ที่มีอายุไม่เกิน 10 ปี 8 GB 1.1 GB
deepseek-r1:7b น้ำหนักเบา 8 GB ของ VRAM CPU เดี่ยว เช่น i5 8 GB 4.7 GB
deepseek-r1:8b น้ำหนักเบา 8 GB ของ VRAM CPU เดี่ยว เช่น i5, i7 8 GB 4.9 GB
deepseek-r1:14b ระดับกลาง 12 - 16 GB ของ VRAM CPU เดี่ยว (i7/i9) หรือ CPU คู่ (Xeon Silver 4114 x2) 16-32 GB 9.0 GB
deepseek-r1:32b ระดับกลาง 24 GB ของ VRAM CPU คู่ (Xeon Silver 4114 x2) 32 - 64 GB

สำหรับโมเดล 671b ต้องใช้ VRAM ประมาณ 480 GB การตั้งค่าแบบ Multi-GPU เป็นสิ่งจำเป็น โดยมีการกำหนดค่าดังนี้:

  • 20 GPUs Nvidia RTX 3090 (24 GB ต่อตัว)

  • 10 GPUs Nvidia RTX A6000 (48 GB ต่อตัว)

อ้างอิง:

1.3 ดาวน์โหลดและรัน DeepSeek-R1

สำหรับการกำหนดค่าในเครื่องของฉัน ฉันใช้ 3060GPU(12GB) ดังนั้นฉันจึงสามารถลองใช้ 7b ได้ เราสามารถใช้ ollama pull to down load the model หรือเพียงแค่ใช้คำสั่ง run หากยังไม่ได้ดาวน์โหลดโมดูล Ollama จะดาวน์โหลดให้โดยอัตโนมัติ:

ollama run deepseek-r1:7b

ขณะนี้ DeepSeek-R1 ได้รับการติดตั้งบนเครื่องของคุณเรียบร้อยแล้ว และคุณสามารถเริ่มถามคำถาม AI ได้โดยตรงจากเทอร์มินัล

ขั้นตอนที่ 2: ติดตั้ง nomic-embed-text

ในการสร้างฐานความรู้ RAG (Retrieval-Augmented Generation) เราต้องใช้ nomic-embed-text ซึ่งแปลงข้อมูล (เช่น ไฟล์ PDF หรือข้อความ) เป็นเวกเตอร์ representations เวกเตอร์ embeddings เหล่านี้ช่วยให้โมเดล AI เข้าใจความสัมพันธ์เชิงความหมายระหว่างข้อความต่างๆ ซึ่งช่วยปรับปรุงความแม่นยำในการค้นหาและการดึงข้อมูล

2.1 ดาวน์โหลด nomic-embed-text

เยี่ยมชมหน้าอย่างเป็นทางการ: https://ollama.com/library/nomic-embed-text และดาวน์โหลดเวอร์ชันล่าสุดตามที่แสดงด้านล่าง:

2.2 ติดตั้งผ่าน Ollama

คุณยังสามารถติดตั้ง nomic-embed-text ได้โดยตรงโดยใช้คำสั่ง Ollama pull:

ollama pull nomic-embed-text

เมื่อดาวน์โหลดแล้ว nomic-embed-text ก็พร้อมที่จะรวมเข้ากับไปป์ไลน์ RAG ของคุณ

ขั้นตอนที่ 3: ติดตั้ง AnythingLLM และปรับใช้ RAG

ในการตั้งค่า ระบบ RAG (Retrieval-Augmented Generation) เราจะใช้ AnythingLLM ซึ่งเป็น AI chatbot แบบโอเพนซอร์สที่ช่วยให้สามารถโต้ตอบกับเอกสารได้อย่างราบรื่น

3.1 ดาวน์โหลดและติดตั้ง AnythingLLM

เยี่ยมชมหน้าดาวน์โหลด AnythingLLM อย่างเป็นทางการ: https://anythingllm.com/desktop และดาวน์โหลดตัวติดตั้งที่เหมาะสมสำหรับระบบปฏิบัติการของคุณ

3.2 สร้าง Workspace

หลังจากติดตั้งและรัน AnythingLLM ให้สร้าง workspace ใหม่ชื่อ "DeepSeek-R1-RAG" จากนั้นคลิกที่ไอคอน "Open Settings" สำหรับ workspace ตามที่แสดงด้านล่าง:

3.3 กำหนดค่า LLM Settings

  • ในส่วน LLM Provider ให้เลือก Ollama

  • เลือก DeepSeek-R1 เป็น Ollama Model

  • ตั้งค่า Max Tokens เป็น 4096 (คุณสามารถเพิ่มค่านี้ได้หากคุณต้องการการวิเคราะห์หรือสรุปที่ครอบคลุมมากขึ้น)

  • คลิก Save Changes เพื่อใช้การตั้งค่า

3.4 กำหนดค่า Vector Database

  • นำทางไปยังการตั้งค่าVector Database

  • เลือกLanceDBซึ่งเป็นฐานข้อมูลเวกเตอร์แบบโลคัลเต็มรูปแบบที่รับประกันความเป็นส่วนตัวของข้อมูลโดยการเก็บทุกอย่างไว้ในเครื่องของคุณ

3.5 กำหนดค่า Embedding Model

  • ในEmbedder Tagเลือกnomic-embed-textภายใต้ส่วนOllama Embedding Model

  • บันทึกการเปลี่ยนแปลงเพื่อสิ้นสุดการตั้งค่า

ขั้นตอนที่ 4: โหลดข้อมูล RAG และเริ่มการทดสอบ

ตอนนี้เราได้ทำการตั้งค่าเสร็จสมบูรณ์แล้ว เราสามารถโหลดเอกสารลงในระบบ RAG และทดสอบแชทบอท DeepSeek-R1 ได้

4.1 เตรียมฐานความรู้

เราจะใช้เอกสาร PDFสี่ฉบับเพื่อสร้างฐานความรู้ของ AI:

เอกสารระบบจำลองโครงข่ายไฟฟ้า

  • PowerGrid_introduction.pdf– บทนำสู่ Power_Grid_OT_Simulation_System รวมถึงภาพรวมของระบบ โครงสร้าง และการออกแบบระบบย่อย

  • PowerGrid_UsageManual.pdf– คู่มือผู้ใช้ที่ครอบคลุมการกำหนดค่าระบบ การตั้งค่า และการใช้งาน

เอกสารระบบจำลองการกระทำของผู้ใช้คลัสเตอร์ (CUE)

  • CUE_Introduction.pdf– ภาพรวมของระบบ Cluster User Emulation (CUE) ครอบคลุมโครงสร้างระบบ การกำหนดค่า และการใช้งาน

  • Action_API_Doc.pdf– เอกสารประกอบ Python API พร้อมรายละเอียดเกี่ยวกับฟังก์ชัน พารามิเตอร์ และตัวอย่างการใช้งานที่มีอยู่

4.2 โหลดข้อมูลระบบโครงข่ายไฟฟ้า

ใน AnythingLLM สร้างเธรด "Power Grid Chat Bot" แล้วคลิกไอคอนอัปโหลด:

อัปโหลดไฟล์ PDF 2 ไฟล์PowerGrid_introduction.pdfและPowerGrid_UsageManual.pdfจากนั้นเลือกทั้งสองไฟล์แล้วคลิก "Move to Workspace":

จากนั้นเลือก "Save and Embed" ตามที่แสดงด้านล่าง หลังจากที่ความคืบหน้าเสร็จสิ้น LLM พร้อม RAG ก็พร้อมใช้งาน

4.3 ทดสอบ DeepSeek-R1 ChatBot ด้วยข้อมูล Power Grid RAG

ตอนนี้เราสามารถลองถามคำถาม DeepSeek-R1 ที่เกี่ยวข้องกับระบบจำลองโครงข่ายไฟฟ้า และเปรียบเทียบผลลัพธ์ระหว่างคำตอบที่มีและไม่มี RAG

คำถาม:

ให้สรุปสั้นๆ เกี่ยวกับการออกแบบ PLC และการออกแบบตัวตัดวงจรรีโมทคอนโทรลในโครงการ Power_Grid_OT_Simulation_System

คำตอบ DeepSeek-R1 (ไม่มี RAG)- สำหรับ DeepSeek-R1 ที่ไม่มี RAG จะแสดงรายการคำตอบทั่วไปมากตามที่แสดงด้านล่าง และการตอบสนองไม่มีความสัมพันธ์กับโครงการ Power_Grid_OT_Simulation_System:

DeepSeek-R1 (เปิดใช้งาน RAG)- AI ให้การตอบสนองที่ถูกต้องตามเอกสารที่อัปโหลด ครอบคลุมการควบคุมเบรกเกอร์ HMI และรายละเอียดระบบ:

4.4 โหลดข้อมูลโปรเจ็กต์ Cluster User Action Emulator

คราวนี้เราจะนำเอกสาร power grid ออกและโหลดเอกสารแนะนำโปรเจ็กต์ Cluster User Action Emulator CUE_Introduction.pdf และเอกสาร API โค้ด Python Action_API_Doc.pdf ตามที่แสดงด้านล่าง:

4.5 ทดสอบ DeepSeek-R1 ChatBot ด้วยข้อมูล CUE

ตอนนี้เราสามารถลองถามคำถามกับ DeepSeek-R1 ที่เกี่ยวข้องกับการสร้างสคริปต์ Python ด้วยฟังก์ชัน lib ในระบบจำลองการทำงานของผู้ใช้คลัสเตอร์

คำถาม:

Help create a python script/function uses the cluster user emulator(CUE) function API to ping an IP 192.168.10.100 and ssh login to the server with (username: admin, password: P@ssword)  to run a command "ifconfig"

DeepSeek-R1 (Without RAG) ตอบ - AI ไม่รู้จัก CUE และสร้างโซลูชันอย่างไม่ถูกต้องโดยใช้ไลบรารี requests ซึ่งไม่ถูกต้องดังที่แสดงด้านล่าง:

DeepSeek-R1 (เปิดใช้งาน RAG) - AI ใช้ CUE API อย่างถูกต้องเพื่อสร้างสคริปต์ อย่างไรก็ตาม ในขณะที่ค้นหาฟังก์ชัน ping API ได้อย่างถูกต้อง แต่ก็เริ่มต้นการทำงาน SSH อย่างไม่ถูกต้อง:

ดังที่เราเห็น DeepSeek-R1 ใช้โมดูล lib ที่ถูกต้องซึ่งมีให้ในเอกสาร API และสร้างสคริปต์ สำหรับโค้ดการทำงาน ping นั้นจะค้นหาฟังก์ชัน API ที่ถูกต้องจาก API_document ในหน้า 2 และใช้งานอย่างถูกต้อง สำหรับการทำงาน SSH นั้นจะค้นหา API ที่ถูกต้องจาก API_document ในหน้า 4 แต่ไม่ได้เริ่มต้นอ็อบเจ็กต์ตัวเชื่อมต่ออย่างถูกต้อง:

เมื่อเปิดใช้งาน RAG แล้ว DeepSeek-R1 สามารถสร้างการตอบสนองตามเอกสารเฉพาะโดเมน ทำให้มีความถูกต้องและมีประโยชน์มากกว่าโมเดลมาตรฐาน อย่างไรก็ตาม การตรวจสอบโค้ดที่สร้างโดย AI ยังคงมีความจำเป็นเพื่อให้แน่ใจว่าถูกต้อง

สรุป

การปรับใช้ DeepSeek-R1 ในเครื่องด้วยฐานความรู้ Retrieval-Augmented Generation (RAG) ที่กำหนดเอง ช่วยให้แอปพลิเคชันที่ขับเคลื่อนด้วย AI มีความเชี่ยวชาญเฉพาะโดเมนที่ได้รับการปรับปรุง ในขณะที่ยังคงรักษาความเป็นส่วนตัวของข้อมูล การใช้ประโยชน์จากเครื่องมือต่างๆ เช่น Ollama, nomic-embed-text และ AnythingLLM ผู้ใช้สามารถสร้างแชทบอทอัจฉริยะ ตัวสร้างโค้ด และระบบสนับสนุนการตัดสินใจด้วย AI ที่ปรับให้เหมาะกับความต้องการเฉพาะของตน การเปรียบเทียบระหว่างการตอบสนองของ LLM มาตรฐานและการตอบสนองที่ได้รับการปรับปรุงด้วย RAG เน้นถึงการปรับปรุงที่สำคัญในด้านความถูกต้องและความเกี่ยวข้องเมื่อรวมแหล่งความรู้ภายนอก การตั้งค่านี้ไม่เพียงแต่ปรับปรุงความน่าเชื่อถือของ AI เท่านั้น แต่ยังรับประกันว่าข้อมูลที่เป็นกรรมสิทธิ์จะยังคงปลอดภัย ทำให้เป็นโซลูชันที่มีประสิทธิภาพสำหรับธุรกิจ นักวิจัย และนักพัฒนาที่ต้องการข้อมูลเชิงลึกที่ขับเคลื่อนด้วย AI ในพื้นที่

แก้ไขล่าสุดโดย LiuYuancheng ([email protected]) เมื่อ 10/02/2025 หากคุณมีคำถามใดๆ โปรดส่งข้อความถึงฉัน

  RELATED

  COMMENT

1
Rick Shieh
Apr 25, 2025 at 2:46 pm
Reply

Great Introduction! Thank you!