Triển khai ứng dụng doanh nghiệp DeepSeek: Dịch vụ khách hàng thông minh hỗ trợ các công ty công nghệ như thế nào với ZStack

Trong bối cảnh CNTT doanh nghiệp đang phát triển nhanh chóng, làm thế nào các doanh nghiệp có thể tận dụng AI để nâng cao hiệu quả dịch vụ khách hàng? Những cân nhắc chính để tích hợp các mô hình AI tiên tiến như DeepSeek vào các nền tảng ảo hóa hiện có là gì? Nền tảng AIOS Helix của ZStack hợp lý hóa việc áp dụng các giải pháp dịch vụ khách hàng thông minh như thế nào? Khi các doanh nghiệp ngày càng chuyển đổi từ VMware sang ZStack để tối ưu hóa cơ sở hạ tầng CNTT của mình, nhu cầu về các công cụ đổi mới như SupportAI, do DeepSeek cung cấp, đã tăng lên. ZStack, công ty hàng đầu về nền tảng ảo hóa và đám mây, đã phát triển SupportAI để giải quyết những thách thức này, tích hợp liền mạch các khả năng AI với nền tảng ZSphere mạnh mẽ của mình. Bài viết này khám phá cách SupportAI của ZStack, được tăng cường bởi DeepSeek-R1, chuyển đổi hỗ trợ kỹ thuật cho doanh nghiệp, cung cấp thông tin chi tiết về hành trình phát triển và triển khai thực tế của nó. Cho dù bạn đang tìm kiếm hướng dẫn về dịch vụ khách hàng dựa trên AI hay khám phá các công cụ di chuyển VMware sang ZStack, nghiên cứu điển hình này sẽ cung cấp lộ trình thành công.

Các khả năng chính của SupportAI bao gồm:

• Trích xuất dữ liệu nội bộ (website, ticket, forum, Jira, Confluence) để nâng cao khả năng RAG
• Tích hợp liền mạch với DingTalk, WeChat Work, dịch vụ khách hàng WeChat và các hệ thống khác
• Cung cấp hỗ trợ đặc biệt cho khách hàng, đội ngũ bán hàng, tiền bán hàng và kỹ thuật
• Đảm bảo luồng thông tin trôi chảy và cộng tác hiệu quả thông qua các tác nhân thông minh và ChatRobot

Việc phát hành DeepSeek-R1 đã mang đến những cơ hội mới cho SupportAI, trang bị cho nó bộ não “thông minh hơn”. Với nỗ lực chung của các nhóm kỹ thuật và kinh doanh, SupportAI hiện đã tích hợp mẫu DeepSeek-R1 mới nhất.

Bài viết này sẽ chia sẻ hành trình từ thiết kế của SupportAI vào năm 2022 cho đến sự tích hợp gần đây với DeepSeek. Chúng tôi hy vọng kinh nghiệm của mình có thể hỗ trợ nhiều công ty hơn trong quá trình chuyển đổi kỹ thuật số dựa trên AI của họ.

I. Tại sao nên xây dựng SupportAI?

Kể từ năm 2015, ZStack đã triển khai trên 600 đám mây đáng tin cậy, hỗ trợ hơn 4.000 công ty trong quá trình chuyển đổi kỹ thuật số. Hành trình này đã tích lũy được nhiều kinh nghiệm thực tế phong phú và những phương pháp hay nhất. Khi hoạt động kinh doanh phát triển, bộ phận hỗ trợ kỹ thuật phải đối mặt với áp lực ngày càng lớn, hệ thống dịch vụ khách hàng hiện tại gặp phải những thách thức mới.

Vào năm 2022, sự nổi lên của các mô hình lớn như OpenAI đã tạo cơ hội cho sự đổi mới trong các dịch vụ kỹ thuật. ZStack nhanh chóng huy động đội ngũ kỹ thuật của mình để phát triển SupportAI. Bằng cách tích hợp dữ liệu từ trang web, vé doanh nghiệp, diễn đàn nội bộ, Jira và Confluence, SupportAI đã xử lý và tinh chỉnh dữ liệu này cho một mô hình lớn. Điều này mang lại khả năng dịch vụ khách hàng AI cho nhóm hỗ trợ kỹ thuật. Sau những nỗ lực thăm dò và chắp vá ban đầu, nó đã chuyển sang nền tảng AIOS Helix của ZStack. Tối ưu hóa liên tục việc triển khai và đánh giá mô hình đã cải thiện hiệu quả hỗ trợ và độ chính xác của phản hồi. Ngày nay, SupportAI là tài sản cốt lõi của bộ phận dịch vụ kỹ thuật.

Trong khi giải quyết các nhu cầu kinh doanh của ZStack, SupportAI cũng đóng vai trò là nghiên cứu điển hình thực tế trong việc áp dụng các mô hình lớn vào các giải pháp AI của doanh nghiệp. Bài viết này trình bày chi tiết về thiết kế và các bước của SupportAI, hy vọng sẽ mang lại lợi ích cho các công ty khác đang gặp phải những thách thức tương tự.

II. Sự phát triển của phiên bản: Những đột phá kỹ thuật đằng sau sự hỗ trợAI

(1) Phiên bản MVP 2022

Trước sự bùng nổ của mô hình lớn vào năm 2022, ZStack đã sử dụng chatbot tự động để giúp các kỹ sư khắc phục sự cố một cách hiệu quả, liên kết các tài liệu liên quan thông qua hệ thống đề xuất. Với sự xuất hiện của ChatGPT và các mô hình trong nước, nhóm kỹ thuật đã bắt đầu thử nghiệm các giải pháp dựa trên mô hình lớn. Sau khi đánh giá nhiều mô hình, bao gồm cả các lựa chọn ở nước ngoài, Qwen2 đã được chọn làm nền tảng cho phiên bản SupportAI đầu tiên nhờ khả năng xử lý ngữ nghĩa tiếng Trung vượt trội.

Lớp giữa đã sử dụng FastGPT để sắp xếp quy trình làm việc và tải tài liệu cơ sở kiến thức. Lớp cơ sở dựa vào Qwen để có khả năng Hỏi & Đáp. Đây là kiến ​​trúc ban đầu. Phiên bản MVP mang lại hiệu quả hạn chế cho các kỹ sư. Nó chủ yếu xác nhận tính khả thi về mặt kỹ thuật và đóng vòng lặp quy trình công việc. Tuy nhiên, đôi khi nó đưa ra những phản hồi không liên quan hoặc chất lượng thấp.

(2) Phiên bản dựa trên chuỗi xoắn AIOS 2024

Vào năm 2024, ZStack đã ra mắt AIOS Helix, cho phép dễ dàng lập kế hoạch tài nguyên, tải mô hình, đánh giá, tinh chỉnh và triển khai dịch vụ suy luận. Sau khi nghiên cứu nội bộ, SupportAI đã được xây dựng lại trên Helix làm nền tảng AI.

Với kinh nghiệm MVP và sự cộng tác giữa các nhà phát triển và nhân viên dịch vụ, quá trình di chuyển, tinh chỉnh và triển khai dữ liệu đã được hoàn thành trong vòng một tuần. Kể từ khi đi vào hoạt động, nó đã liên tục được tối ưu hóa. Nhờ khả năng quản lý mô hình và tính sẵn sàng cao của AIOS, ứng dụng vẫn hoạt động trong quá trình nâng cấp.

Helix cung cấp các mô-đun để quản lý mô hình, lựa chọn, kỹ thuật dữ liệu, tính toán phần cứng, vận hành và kiểm soát API. Trước Helix, những điều này đòi hỏi phải phát triển và bảo trì thủ công. Với Helix, SupportAI giải phóng nhân lực để tập trung vào việc cải thiện chất lượng phản hồi, độ chính xác và ứng dụng kinh doanh.

Các thành phần tích hợp sẵn như FastGPT và Dify trong AIOS Helix cung cấp giao diện web để điều phối quy trình làm việc, tải lên cơ sở kiến thức, quản lý phát hành và chuyển đổi mô hình. Điều này giúp đơn giản hóa quá trình phát triển và bảo trì của SupportAI.

III. Con đường dẫn đến phản hồi chính xác

Chất lượng phản hồi trung bình của phiên bản MVP phần lớn xuất phát từ chất lượng dữ liệu thô kém. Các kỹ sư của ZStack đã giải quyết vấn đề này bằng cách làm sạch dữ liệu và tinh chỉnh việc phân loại câu hỏi để nâng cao chất lượng cơ sở kiến ​​thức và hiệu quả phản hồi.

(1) Cải thiện chất lượng cơ sở dữ liệu thông qua việc làm sạch dữ liệu

• Thu thập dữ liệu: Các nguồn rất đa dạng, với các tài liệu nội bộ ở nhiều định dạng trên nhiều nền tảng—PDF, tệp Word, tài liệu DingTalk, Confluence, BBS nội bộ, hệ thống bán vé, cơ sở kiến thức R&D, Jira và trang web. Các tệp cục bộ đã được chuyển đổi thành dữ liệu có cấu trúc bằng các công cụ. Một số đã được chuyển trực tuyến. Tài liệu trực tuyến được xử lý bằng các tập lệnh tùy chỉnh, thống nhất các định dạng và giao diện truy cập.
• Làm sạch dữ liệu: Tập lệnh tùy chỉnh làm sạch dữ liệu, sửa lỗi chính tả, cách diễn đạt thông thường, nội dung dư thừa và tài liệu lạc đề, mang lại nền tảng kiến thức chất lượng cao.
• Lựa chọn nhúng: Các chi tiết được lưu giữ bằng cách phân chia khối dựa trên mã thông báo trực tiếp nhưng ảnh hưởng đến độ chính xác khi truy xuất. Trích xuất QA cho phép mô hình lấy câu hỏi từ tài liệu, cải thiện độ chính xác của tìm kiếm nhưng làm mất một số chi tiết. Thực hành tốt nhất kết hợp cả hai phương pháp.

(2) Nâng cao chất lượng phản hồi thông qua phân loại câu hỏi

Quá trình xử lý hậu kỳ mang lại nền tảng kiến thức chất lượng cao, cải thiện rõ rệt phần Hỏi đáp. Câu hỏi của người dùng kéo dài phần giới thiệu công ty, giải pháp đám mây riêng, sửa lỗi quá tải CPU, tính năng ZStack Cloud và tích hợp dự án. Các kỹ sư đã gắn nhãn trước cho các danh mục cơ sở kiến ​​thức—thường được hỗ trợ bởi mô hình. Các truy vấn rộng như “ZStack thế nào?” đã được làm phong phú thêm ngữ cảnh (nếu có) để có lời nhắc đầy đủ hơn, sau đó được chuyển đến các cơ sở cụ thể theo danh mục có liên quan.

Ví dụ: sau một truy vấn kỹ thuật, lời nhắc có thể trở thành: "Tôi là kỹ thuật viên đã hỏi về cách khắc phục tình trạng quá tải CPU. Bây giờ tôi muốn biết 'ZStack thế nào?'" Sau đó, mô hình sẽ tập trung vào các chi tiết kỹ thuật và sản phẩm. Đối với các thắc mắc của nhà đầu tư, nó nêu bật các khía cạnh đầu tư; đối với người dùng doanh nghiệp, nó nhấn mạnh vào các giải pháp và nghiên cứu điển hình.

Điều này đòi hỏi một nền tảng để quản lý nhiều mô hình, đánh giá hiệu suất và xác thực chất lượng dịch vụ. MVP chạy trên các máy chủ nội bộ được quản lý thủ công, đáp ứng nhu cầu ban đầu nhưng thiếu khả năng mở rộng. Điều này đã thúc đẩy sự chuyển đổi sang AIOS Helix.

(3) Đảm bảo tính an toàn và chính xác của nội dung được tạo

An toàn và chính xác là rất quan trọng. Mô hình “ảo giác” có thể tạo ra nội dung không liên quan, không chính xác hoặc có hại—đặc biệt gây rắc rối cho người dùng bên ngoài. Đối với các doanh nghiệp, đây là vấn đề được quan tâm hàng đầu. Các yếu tố như chất lượng tài liệu kém, thông tin đầu vào của người dùng không rõ ràng hoặc khả năng tính toán không đủ có thể làm gián đoạn quá trình tạo.

Các bước kiểm tra độ chính xác và an toàn của nội dung được tạo

ZStack đã triển khai các chiến lược an toàn này trong SupportAI:

• Hạn chế nhắc nhở: Lời nhắc được tối ưu hóa chặn rõ ràng thông tin nhạy cảm, sử dụng thư viện từ/từ khóa nhạy cảm cho mô hình để kiểm tra kết quả đầu ra.
• Lọc an toàn nội dung: SupportAI sử dụng AIOS để tinh chỉnh mô hình nhằm kiểm tra an toàn. Nó cũng hợp tác với các công ty bảo mật bên thứ ba thông qua API để nâng cao khả năng phát hiện.
• Chuyển tiếp người quản lý: Ban đầu, chất lượng được cải thiện dần dần. Ban đầu, nhân viên nội bộ xem xét và chuyển tiếp nội dung do RAG xử lý theo cách thủ công cho người dùng. Hiện đã ổn định, SupportAI đang dần được triển khai cho người dùng bên ngoài.

IV. Sự xuất hiện của DeepSeek-R1

SupportAI cần một mô hình có khả năng suy luận để phân tích ý định và phản hồi chính xác—khoảng trống mà DeepSeek-R1 lấp đầy bằng khả năng suy luận hàng đầu trong ngành. Áp dụng nó vào dịch vụ khách hàng là một thách thức táo bạo. Đội ngũ kỹ thuật đã kịp thời nghiên cứu DeepSeek-R1, bổ sung vào kho mô hình của AIOS. Hỗ trợ các phiên bản đã được thử nghiệm của AI trong môi trường riêng tư của ZStack. Với việc chuyển từ máy chủ vật lý sang Helix để quản lý mô hình, quá trình đánh giá và thay thế diễn ra liền mạch.

(1) Thử nghiệm và lựa chọn mô hình

Các phiên bản chính của DeepSeek đã được triển khai và thử nghiệm. Chuỗi lý luận của nó phù hợp với việc tạo câu trả lời nhưng làm chậm thời gian phản hồi, không phù hợp để hoàn thành câu hỏi. Các công cụ đánh giá của Helix đã đánh giá khả năng của DeepSeek. Người dùng đã chọn các dịch vụ suy luận tích cực, bộ dữ liệu và cỡ mẫu, định cấu hình tài nguyên nếu cần.

(2) Tinh chỉnh mô hình

Sau khi chọn DeepSeek 32B tiết kiệm chi phí cho mục hỏi đáp chung của doanh nghiệp, các bộ dữ liệu hiện có đã được tải vào mô hình cơ sở để tinh chỉnh thành mô hình dành riêng cho ngành. Quá trình này, bao gồm phân bổ tài nguyên và tải dữ liệu, được sắp xếp hợp lý thông qua giao diện web của Helix, giúp người dùng không phải lo lắng về cơ sở hạ tầng.

(3) Quản lý và lựa chọn mô hình

Kết quả điều chỉnh sau là một “hộp mù” cần được xác nhận. Một nền tảng để quản lý các mô hình đang chạy, thử nghiệm và tinh chỉnh—cộng với các bản phát hành mới trong tương lai—là rất quan trọng. Kho lưu trữ mô hình của Helix cung cấp các mô hình tích hợp, nhập cục bộ và tích hợp với Ôm mặt và ModelScope.

(4) Cách sử dụng mẫu

Các kịch bản tối ưu khác nhau: Qwen vượt trội khi hoàn thành câu hỏi, DeepSeek vượt trội khi tạo. Cách tiếp cận đa mô hình sẽ phát huy tối đa điểm mạnh. Hỏi đáp giao diện người dùng được tách rời khỏi các mô hình phụ trợ cho phép cập nhật API hoặc chuyển đổi cân bằng tải. Sau khi điều chỉnh, Helix triển khai các dịch vụ suy luận, chọn mô hình, mẫu và tùy chọn triển khai (vùng chứa hoặc VM) với thông số tài nguyên. Sau khi chạy, tương tác được thực hiện thông qua API hoặc web.

V. Thông tin chuyên sâu về triển khai ứng dụng AI dành cho doanh nghiệp

(1) Quản lý đa mô hình là điều cần thiết—Khuyến nghị Helix

ZStack Helix, hệ điều hành cơ sở hạ tầng AI thế hệ tiếp theo, tăng tốc việc áp dụng AI cho doanh nghiệp bằng cách tái cấu trúc các lớp điện toán, mô hình và hoạt động. Nó hỗ trợ nâng cấp từ đám mây truyền thống lên đám mây thông minh, tương thích với NVIDIA, Hygon DCU và các GPU khác. Nó cho phép tinh chỉnh hàng nghìn mô hình nguồn mở với quyền riêng tư dữ liệu và cách ly nhiều người thuê. Với chi phí thấp, phân bổ tài nguyên linh hoạt và các dịch vụ vòng đời đầy đủ, nó được mở rộng quy mô ở các nhà cung cấp GPU, trường đại học và phương tiện truyền thông. Vào ngày 2 tháng 2, Helix đã hỗ trợ DeepSeek V3/R1/Janus Pro, có thể triển khai riêng trên Hygon, Ascend, NVIDIA và CPU/GPU của Intel.

Hành trình của SupportAI bắt đầu với các máy chủ nội bộ và Qwen để giải đáp kiến thức. Khi các kịch bản được đa dạng hóa, việc quản lý các mô hình đang hoạt động và thử nghiệm trở nên phức tạp. Một nền tảng như Helix trở nên quan trọng trong việc hợp lý hóa việc quản lý mô hình, ẩn lập kế hoạch tài nguyên và cung cấp dữ liệu giám sát—tạo thành xương sống cho các giải pháp AI của doanh nghiệp.

(2) Đạt được 4 “Sẵn sàng” cho việc áp dụng AI

Nhiều công ty có dữ liệu không hoạt động—nội dung trang web, cơ sở kiến thức nội bộ—mà DeepSeek có thể mở khóa. AI doanh nghiệp sẽ tích hợp sâu vào các hệ thống hiện có. Để chuyển đổi kỹ thuật số, các công ty cần có bốn “Sẵn sàng”: nhóm, nguồn lực, dữ liệu và khả năng.

Cần tập trung vào hiệu quả, sự hài lòng của khách hàng và phạm vi tiếp cận của doanh nghiệp—chứ không phải chi tiết về cơ sở hạ tầng mà nhóm chuyên gia có thể xử lý. Một nền tảng linh hoạt, dễ triển khai như Helix, tận dụng các nguồn tài nguyên không đồng nhất, chính là chìa khóa. Các ứng dụng có thể sử dụng các mô hình ModelScope hoặc Ôm khuôn mặt, được quản lý và triển khai thông qua Helix, sử dụng các máy chủ hiện có hoặc mới.

Doanh nghiệp phải nắm bắt làn sóng AI. Thiếu nó không phải là một lựa chọn. Có rất nhiều thách thức trong việc áp dụng AI, nhưng ZStack—các chuyên gia về tư nhân hóa DeepSeek và cơ sở hạ tầng AI doanh nghiệp—cung cấp sự hỗ trợ mạnh mẽ.

Trao quyền cho hành trình AI của bạn với SupportAI của ZStack

Khi các doanh nghiệp giải quyết sự phức tạp của việc áp dụng AI, làm cách nào họ có thể đảm bảo tích hợp liền mạch dịch vụ khách hàng thông minh vào nền tảng ảo hóa hiện có của mình? Các phương pháp hay nhất để tận dụng các nền tảng như AIOS Helix của ZStack nhằm tăng cường hỗ trợ kỹ thuật là gì? SupportAI của ZStack, được cung cấp bởi DeepSeek-R1, chứng minh cách AI có thể chuyển đổi dịch vụ khách hàng, hợp lý hóa hoạt động và tối đa hóa hiệu quả tài nguyên. Bằng cách tích hợp với nền tảng đám mây và ảo hóa mạnh mẽ của ZStack, SupportAI cung cấp giải pháp hiệu suất cao, có thể mở rộng cho các doanh nghiệp chuyển đổi từ VMware sang ZStack hoặc đang tìm cách nâng cao cơ sở hạ tầng CNTT của họ bằng khả năng AI. Đối với những người khám phá các công cụ dịch vụ khách hàng dựa trên AI hoặc chiến lược di chuyển VMware sang ZStack, chuyên môn đã được chứng minh của ZStack cung cấp nền tảng đáng tin cậy. thăm https://www.zstack-cloud.com/ để khám phá cách các giải pháp của ZStack có thể nâng cao hành trình chuyển đổi kỹ thuật số của doanh nghiệp bạn.