Khi trợ lý AI có hàng trăm công cụ: bài học từ thực tế triển khai cho doanh nghiệp

Ảnh: Barn Images / Unsplash
Một trợ lý AI chỉ phục vụ tốt khi được gắn đúng số lượng công cụ, và số lượng đó cần được đo, rà soát và điều chỉnh suốt vòng đời của trợ lý. Đây là bài học lớn nhất của chúng tôi sau khi đưa trợ lý AI vào vận hành trên hệ thống ERP và phần mềm nội bộ của doanh nghiệp.
Khi bắt đầu, hầu hết lãnh đạo doanh nghiệp đều đặt cùng một kỳ vọng: trợ lý phải làm được mọi việc mà nhân viên đang làm trên phần mềm. Khai timesheet, xin nghỉ phép, duyệt tăng ca, cập nhật cơ hội bán hàng, tra cứu công nợ. Mỗi việc như vậy tương ứng với một hoặc vài API, và mỗi API thường được đóng gói thành một công cụ (tool) để trợ lý gọi qua giao thức MCP (Model Context Protocol). Một hệ thống ERP trung bình có hàng trăm API, nên rất nhanh chóng trợ lý có hàng trăm công cụ.
Câu hỏi đặt ra là trợ lý có còn làm việc chính xác khi phải chọn trong hàng trăm công cụ hay không. Câu trả lời ngắn gọn là không, và bài viết này chia sẻ những gì chúng tôi học được khi xử lý vấn đề đó, cùng cách doanh nghiệp nên đầu tư để trợ lý tạo ra giá trị đo được.
Càng nhiều công cụ, trợ lý càng dễ chọn sai
Các nghiên cứu độc lập và thử nghiệm nội bộ của nhà cung cấp mô hình đều cho cùng một kết quả: khi danh sách công cụ tăng lên, tỷ lệ trợ lý chọn đúng công cụ giảm rõ rệt. Nguyên nhân nằm ở ba điểm.
Thứ nhất, mô tả công cụ chiếm chỗ trong bộ nhớ làm việc của mô hình. Mỗi công cụ đi kèm tên, mô tả và danh sách tham số, và toàn bộ phần này được gửi lại trong mỗi lượt trò chuyện. Anthropic ghi nhận năm máy chủ MCP phổ biến với 58 công cụ đã tiêu tốn khoảng 55.000 token trước khi người dùng gõ câu đầu tiên; có trường hợp nội bộ lên tới 134.000 token (Anthropic). Doanh nghiệp trả chi phí cho lượng token này ở mọi câu hỏi, kể cả câu hỏi đơn giản nhất, và thời gian phản hồi cũng chậm hơn.
Thứ hai, các công cụ giống nhau dễ bị nhầm lẫn. Trong một hệ thống ERP, "huỷ đơn", "rút đơn" và "từ chối đơn" là ba nghiệp vụ khác nhau nhưng mô tả gần giống nhau. Nhóm tác giả nghiên cứu RAG-MCP chỉ ra rằng khi số lựa chọn tăng, mô hình càng dễ chọn công cụ kém phù hợp, hiểu sai chức năng của công cụ, thậm chí gọi một công cụ không tồn tại (arXiv 2505.03275).
Thứ ba, công cụ sinh tự động từ API thường không phù hợp với cách trợ lý làm việc. Anthropic khuyến cáo không nên bọc nguyên từng API thành công cụ. Ví dụ, thay vì ba công cụ "liệt kê người dùng", "liệt kê lịch" và "tạo lịch", nên xây dựng một công cụ "xếp lịch họp" tự tìm giờ trống rồi đặt lịch (Anthropic).
Số liệu đo được khi giảm số công cụ mà mô hình phải nhìn cùng lúc:
Thử nghiệm | Hiển thị toàn bộ công cụ | Chỉ hiển thị công cụ liên quan | Nguồn |
|---|---|---|---|
RAG-MCP, tỷ lệ chọn đúng công cụ | 13,62% | 43,13% | |
Anthropic, Claude Opus 4 trên bài đánh giá MCP | 49% | 74% | |
Anthropic, Claude Opus 4.5 trên bài đánh giá MCP | 79,5% | 88,1% | |
Anthropic, token tiêu tốn trước khi bắt đầu làm việc | khoảng 77.000 | khoảng 8.700 |
Mô hình càng mới càng chịu được danh sách dài, nhưng ngay cả mô hình mạnh nhất vẫn sai khoảng một trong năm lần khi phải tự chọn trong thư viện công cụ lớn. Kinh nghiệm chung của giới kỹ sư là giữ mỗi lượt làm việc ở khoảng 10–20 công cụ; trên 40–50 công cụ thì nhiều quy trình không còn đáng tin cậy (Tian Pan). Đây là ngưỡng tham khảo, không phải kết quả nghiên cứu.
Bốn cách ngành đang xử lý
Các giải pháp hiệu quả đều dựa trên cùng một nguyên tắc: hệ thống có thể có hàng trăm công cụ, nhưng mỗi lượt xử lý chỉ cho mô hình thấy vài công cụ cần thiết. Cách thực hiện nguyên tắc đó có bốn hướng chính.
Cách làm | Nội dung | Ưu điểm | Hạn chế |
|---|---|---|---|
Phân bổ theo vai trò | Mỗi trợ lý chỉ gắn nhóm công cụ của một phòng ban hoặc một vai trò: trợ lý Nhân sự, trợ lý Kinh doanh | Dễ kiểm soát, dễ kiểm toán, không tốn thêm bước xử lý | Người dùng phải tự chọn đúng trợ lý; việc liên phòng ban bị chia cắt |
Gộp công cụ theo quy trình | Thay nhiều công cụ nhỏ bằng một công cụ theo hành động nghiệp vụ, kèm tham số loại chứng từ | Giảm mạnh số công cụ; mỗi công cụ đúng với cách người dùng diễn đạt | Phải thiết kế lại theo nghiệp vụ, không sinh tự động từ API được |
Tra cứu công cụ khi cần (tool search) | Mô hình chỉ thấy một công cụ tra cứu; công cụ cụ thể chỉ được nạp khi mô hình tìm tới | Mở rộng tới hàng trăm công cụ; Anthropic đo được mức giảm 85% token | Thêm một bước tra cứu, chậm hơn; kết quả phụ thuộc chất lượng mô tả |
Trợ lý chuyên trách và trợ lý điều phối | Trợ lý chính giao việc cho các trợ lý con, mỗi trợ lý con có 5–10 công cụ của một lĩnh vực | Mỗi bước suy luận đều gọn; phù hợp việc liên lĩnh vực | Kiến trúc phức tạp, tốn nhiều lượt gọi mô hình, khó truy vết lỗi |
Các nền tảng lớn đã đưa hướng thứ ba vào sản phẩm. Claude API có cơ chế đánh dấu công cụ "nạp khi cần" (defer_loading), áp dụng được cho cả một máy chủ MCP trong khi vẫn giữ sẵn vài công cụ dùng nhiều (tài liệu Claude). Anthropic khuyến nghị chỉ bật tính năng này khi mô tả công cụ vượt khoảng 10.000 token hoặc khi đã thấy trợ lý chọn nhầm.
Tra cứu cũng có giới hạn riêng. Chính nhóm RAG-MCP ghi nhận độ chính xác của bước tra cứu giảm dần khi kho công cụ lên tới hàng nghìn mục. Vì vậy trong thực tế, các đội ngũ thường kết hợp nhiều cách thay vì chọn một.
Kinh nghiệm từ một dự án thực tế
Chúng tôi xây dựng trợ lý cho một doanh nghiệp đang vận hành Odoo, giúp nhân viên khai timesheet, đăng ký tăng ca, xin nghỉ phép, giải trình chấm công và cập nhật CRM ngay trong khung chat. Năm bài học dưới đây đến từ quá trình đưa trợ lý này vào vận hành.
1. Thu hẹp phạm vi trước khi tối ưu kỹ thuật. Danh sách mong muốn ban đầu bao gồm cả nhân sự, CRM, văn phòng điện tử và hỗ trợ vận hành, tương đương khoảng 60 công cụ. Sau khi rà soát cùng doanh nghiệp, hai bên thống nhất chỉ làm nhân sự và CRM, là hai nhóm nghiệp vụ nhân viên dùng hằng ngày. Số công cụ giảm còn 41. Quyết định về phạm vi này có tác dụng lớn hơn mọi kỹ thuật tối ưu sau đó.
2. Một công cụ đọc chung thay cho hàng chục công cụ đọc riêng. Thay vì tạo công cụ "xem timesheet", "xem đơn nghỉ", "xem cơ hội bán hàng", trợ lý dùng một công cụ đọc dữ liệu Odoo theo loại bản ghi. Toàn bộ nghiệp vụ tra cứu chỉ cần 3 công cụ. Quyền truy cập vẫn do Odoo kiểm tra theo tài khoản của chính người dùng, nên công cụ đọc chung không mở rộng quyền của trợ lý.
3. Mọi thao tác ghi đều phải qua bước xác nhận, và trợ lý phải hỏi đủ thông tin trước. Trợ lý chuẩn bị lệnh, người dùng bấm Xác nhận thì lệnh mới được thực hiện. Ban đầu, khi người quản lý yêu cầu từ chối một đơn nghỉ phép, trợ lý tạo ngay lệnh từ chối mà chưa có lý do, trong khi Odoo bắt buộc nhập lý do. Chúng tôi điều chỉnh để trợ lý hỏi lại: "Anh muốn từ chối đơn nghỉ phép của anh A ngày 20/11 phải không? Lý do từ chối là gì?". Thẻ xác nhận chỉ xuất hiện khi đã đủ thông tin và chỉ còn một câu hỏi: có thực hiện hay không.
4. Nhiều lỗi chỉ lộ ra trên hệ thống thật. Một số thao tác Odoo đã lưu xong dữ liệu nhưng vẫn trả về thông báo lỗi kỹ thuật. Nếu tin vào thông báo đó, trợ lý sẽ báo thất bại và người dùng sẽ làm lại, tạo ra bản ghi trùng. Bộ kiểm thử tự động với hơn 150 trường hợp đều đạt, nhưng không trường hợp nào phát hiện được lỗi này. Hiện nay, khi mất phản hồi giữa chừng, trợ lý báo kết quả là "không xác định" và đề nghị người dùng kiểm tra lại trên Odoo, không tự động thử lại.
5. Chỉ tách máy chủ MCP khi có lý do vận hành. Nhiều người nghĩ rằng tách một máy chủ 100 công cụ thành năm máy chủ nhỏ sẽ giúp trợ lý chọn đúng hơn. Thực tế không phải vậy: mô hình nhìn thấy mọi công cụ được gắn cho trợ lý, bất kể chúng đến từ máy chủ nào. Nên tách máy chủ khi các phần kết nối tới hệ thống nguồn khác nhau, dùng cách xác thực khác nhau, do đội ngũ khác nhau phát triển, hoặc có mức rủi ro khác nhau. Độ chính xác của trợ lý được xử lý bằng việc gắn đúng tập công cụ cho từng trợ lý.
Với một hệ thống có hàng trăm API, chúng tôi đề xuất mô hình kết hợp được mô tả trong sơ đồ dưới đây.

Công cụ riêng phục vụ các nghiệp vụ dùng nhiều. Ba công cụ chung phục vụ hàng trăm thao tác còn lại thông qua danh mục. Mọi lệnh ghi đều chờ người dùng xác nhận, và hệ thống nguồn vẫn là nơi quyết định quyền truy cập, nên trợ lý không bao giờ có quyền cao hơn người đang trò chuyện.
Những vấn đề không tự biến mất
Mô hình kết hợp giải quyết được chi phí và độ rối khi trợ lý phải nhìn hàng trăm công cụ, nhưng lại đẩy một phần khó khăn sang các khâu khác. Doanh nghiệp nên nắm trước năm điểm sau để đặt kỳ vọng phù hợp.
- Tìm sai thay cho chọn sai. Bước tra cứu có thể trả về nhầm thao tác hoặc bỏ sót thao tác đúng, nhất là với những API có tên gần giống nhau. Chất lượng tra cứu phụ thuộc gần như hoàn toàn vào dòng mô tả của từng thao tác trong danh mục.
- Tham số đúng kiểu nhưng sai nghĩa. Tài liệu API thường chỉ ghi kiểu dữ liệu, không ghi ý nghĩa nghiệp vụ: mã loại đơn số 2 là gì, ngày tính theo múi giờ nào. Bước kiểm tra tự động bắt được sai kiểu, không bắt được sai nghĩa. Anthropic ghi nhận việc bổ sung ví dụ sử dụng vào mô tả công cụ nâng độ chính xác xử lý tham số phức tạp từ 72% lên 90% (Anthropic).
- Nghiệp vụ nhiều bước. Yêu cầu "chuyển toàn bộ công việc của anh A sang chị B" đòi hỏi nhiều lần đọc và ghi nối tiếp. Mỗi bước lại cần tra cứu và xác nhận riêng, nên quá trình chậm và dễ đứt quãng. Những nghiệp vụ dạng này nên có công cụ riêng xử lý trọn gói.
- Ngữ cảnh vẫn phình ra trong phiên dài. Mô tả và dữ liệu trả về từ mỗi lần tra cứu vẫn nằm lại trong cuộc trò chuyện, khiến các phiên làm việc dài ngày càng nặng.
- Lỗi khó phát hiện. Khi không tìm thấy thao tác phù hợp, trợ lý có thể dùng một thao tác gần đúng rồi trả lời rất tự tin. Người dùng không nhận ra, và đội ngũ vận hành cũng không biết nếu không có nhật ký và bộ đánh giá.
Cách kiểm soát chung cho cả năm điểm là đo lường liên tục. Anthropic khuyến nghị xây dựng bộ nhiệm vụ đánh giá lấy từ tình huống sử dụng thật, mỗi nhiệm vụ có kết quả kiểm chứng được, rồi chạy lại mỗi khi sửa công cụ (Anthropic). Khi vận hành, cần ghi lại trợ lý đã chọn thao tác nào cho yêu cầu nào, định kỳ rà soát các trường hợp sai, và chuyển thao tác hay dùng hoặc hay sai thành công cụ riêng.
Đầu tư đúng mức: trợ lý AI là sản phẩm vận hành, không phải dự án bàn giao một lần
Chất lượng của trợ lý AI chỉ duy trì được nhờ đo lường và điều chỉnh liên tục, vì hệ thống nguồn, quy trình nội bộ và mô hình đều thay đổi theo thời gian. Do đó, hợp đồng theo kiểu "xây dựng xong, bàn giao, thanh toán một lần" không phù hợp với loại sản phẩm này.
Các nghiên cứu thị trường cho thấy rõ hệ quả của việc đầu tư sai cách. Gartner dự báo hơn 40% dự án AI agent sẽ bị huỷ trước cuối năm 2027, với ba nguyên nhân: chi phí tăng vượt dự kiến, giá trị kinh doanh không rõ ràng và kiểm soát rủi ro không đầy đủ (Gartner). Báo cáo "The GenAI Divide" của MIT ghi nhận 95% dự án thí điểm AI tạo sinh trong doanh nghiệp chưa tạo ra tác động đo được lên kết quả kinh doanh. Nguyên nhân chính không nằm ở chất lượng mô hình, mà ở chỗ công cụ không học hỏi và không thích ứng với quy trình của doanh nghiệp (Fortune, qua Yahoo Finance). Cũng theo báo cáo này, giải pháp mua từ nhà cung cấp chuyên môn và triển khai theo hình thức đối tác thành công khoảng 67% số trường hợp, cao gấp ba lần so với tự xây dựng nội bộ.
Vì vậy, ngân sách cho trợ lý AI nên được lập theo tổng chi phí sở hữu (TCO) trong cả vòng đời, gồm các khoản mục sau:
Khoản mục | Nội dung | Tính chất |
|---|---|---|
Xây dựng ban đầu | Phân tích nghiệp vụ, thiết kế công cụ, tích hợp hệ thống nguồn, kiểm thử trên dữ liệu thật | Một lần cho mỗi giai đoạn |
Chi phí mô hình | Token cho mỗi câu hỏi, tăng theo số người dùng và số công cụ gắn cho trợ lý | Hằng tháng, theo mức sử dụng |
Đánh giá và cải tiến | Duy trì bộ đánh giá, rà soát nhật ký, sửa mô tả công cụ, chuyển thao tác hay dùng thành công cụ riêng | Liên tục, theo chu kỳ hằng tháng |
Theo kịp thay đổi | Hệ thống nguồn nâng cấp hoặc đổi API; nhà cung cấp ra mô hình mới; quy trình nội bộ thay đổi | Theo sự kiện, không dự báo trước được |
Đưa vào sử dụng | Hướng dẫn nhân viên, hỗ trợ trưởng bộ phận dẫn dắt việc sử dụng, thu thập phản hồi | Tập trung giai đoạn đầu, sau đó duy trì |
Doanh nghiệp chỉ chi cho khoản đầu tiên sẽ nhận được một trợ lý hoạt động tốt trong buổi nghiệm thu, sau đó chất lượng giảm dần theo mỗi lần hệ thống nguồn thay đổi. Ngược lại, đầu tư quá mức ngay từ đầu, ví dụ xây dựng sẵn hàng trăm công cụ cho mọi phòng ban, cũng lãng phí vì phần lớn sẽ không được dùng. Mức đầu tư hợp lý là bắt đầu nhỏ, dành ngân sách cố định cho vận hành và cải tiến, rồi mở rộng theo số liệu sử dụng thực tế.
Lộ trình đề xuất cho doanh nghiệp
Chúng tôi đề xuất doanh nghiệp triển khai trợ lý AI qua năm bước. Mỗi bước chỉ bắt đầu khi bước trước đã có số liệu sử dụng thực tế.
- Chọn một đến hai nghiệp vụ có tần suất cao. Ưu tiên việc nhiều nhân viên làm hằng ngày như khai timesheet hay xin nghỉ phép. Không bắt đầu từ danh sách API của hệ thống.
- Triển khai tra cứu trước, ghi dữ liệu sau. Thao tác đọc giúp nhân viên làm quen và giúp đội ngũ thu thập câu hỏi thật. Khi mở thao tác ghi, bắt buộc có bước xác nhận và kiểm quyền theo tài khoản của chính người dùng.
- Xây dựng bộ đánh giá từ câu hỏi thật. Từ 50 đến 100 yêu cầu thực tế của nhân viên, kèm kết quả đúng. Chạy lại mỗi khi thêm công cụ, đổi mô tả hoặc đổi mô hình.
- Mở rộng theo số liệu. Nghiệp vụ mới được thêm khi nhật ký cho thấy nhu cầu. Khi số thao tác vượt khoảng 30, chuyển sang mô hình kết hợp: công cụ riêng cho việc dùng nhiều và tra cứu cho phần còn lại.
- Vận hành và cải tiến theo chu kỳ. Hằng tháng rà soát nhật ký và kết quả đánh giá, điều chỉnh mô tả công cụ, cập nhật theo thay đổi của hệ thống nguồn và của mô hình.
Về cách vận hành, trợ lý AI giống một nhân sự mới hơn là một phần mềm đóng gói: cần được giao đúng phạm vi công việc, được hướng dẫn, được đánh giá định kỳ và được cập nhật khi quy trình thay đổi. Lập ngân sách theo cách nhìn này ngay từ đầu sẽ tránh được tình trạng trợ lý chạy tốt lúc nghiệm thu rồi xuống cấp sau vài tháng.
Doanh nghiệp đang cân nhắc đưa trợ lý AI vào ERP hoặc phần mềm nội bộ có thể tham khảo nhóm giải pháp ứng dụng AI cho doanh nghiệp của Tetra, hoặc liên hệ đội ngũ Tetra để trao đổi về phạm vi và lộ trình phù hợp.
Nguồn tham khảo
- Anthropic, Introducing advanced tool use on the Claude Developer Platform
- Anthropic, Writing effective tools for agents — with agents
- Anthropic, Tool search tool — Claude Platform Docs
- Gan và Sun, RAG-MCP: Mitigating Prompt Bloat in LLM Tool Selection via Retrieval-Augmented Generation, arXiv 2505.03275
- Tian Pan, The Over-Tooled Agent Problem
- Gartner, Gartner Predicts Over 40% of Agentic AI Projects Will Be Canceled by End of 2027, 25/06/2025
- Fortune, MIT report: 95% of generative AI pilots at companies are failing, 18/08/2025
Bài viết liên quan

WebMCP: để trợ lý AI gọi thẳng công cụ trên tetra.vn
WebMCP là chuẩn web mới cho phép website khai báo chức năng để trợ lý AI gọi trực tiếp. tetra.vn đã bật hỗ trợ, một trong số ít site Việt Nam làm điều này.
Đọc ↗
OKF của Google: đóng gói tri thức cho AI agent — và kinh nghiệm triển khai thực tế
Google vừa công bố OKF — chuẩn mở biến tri thức tổ chức thành thư mục Markdown cho AI agent đọc trực tiếp. Chúng tôi tải bộ mẫu về, mổ xẻ, và rút ra kinh nghiệm triển khai cho vài lĩnh vực.
Đọc ↗
Angler: cổng search, crawl & nghiên cứu web mã nguồn mở, tự host
Angler là cổng search + crawl + nghiên cứu mã nguồn mở (MIT), tự host: cổng web cho AI agent (Claude Code, Cursor…) qua MCP hoặc Firecrawl SDK, biến web thành markdown sạch, chống thiên lệch cho nghiên cứu và AI agent.
Đọc ↗Thử AI trên một bài toán cụ thể trong 30 ngày
Chương trình AI Pilot giúp đo hiệu quả thực tế trước khi đầu tư lớn, có điểm dừng sau tuần đầu.