Generative AI từng khiến doanh nghiệp quan tâm đến một câu hỏi: AI có thể tạo ra nội dung tốt đến đâu?
Agentic AI đang đặt ra một câu hỏi khó hơn:
Điều gì xảy ra khi AI không chỉ tạo câu trả lời, mà còn có quyền sử dụng công cụ, truy cập dữ liệu và thực hiện hành động?
Những thử nghiệm về AI Agent trong môi trường an ninh mạng đang cho thấy một thay đổi quan trọng. Khi được cung cấp mục tiêu, công cụ và quyền truy cập phù hợp, các hệ thống AI ngày càng có khả năng thực hiện chuỗi nhiệm vụ nhiều bước với mức độ tự chủ cao hơn.
Điều đáng quan tâm không nhất thiết là viễn cảnh “AI nổi loạn”, mà là khả năng một AI Agent thực hiện đúng mục tiêu được giao nhưng theo cách mà con người không dự liệu đầy đủ.
Từ Prompt Security đến Agent Security
Với chatbot truyền thống, rủi ro chủ yếu xoay quanh dữ liệu đầu vào, dữ liệu đầu ra, hallucination, prompt injection và rò rỉ thông tin.
Nhưng với Agentic AI, bề mặt rủi ro mở rộng đáng kể.
Một AI Agent có thể được kết nối với:
Email → CRM → ERP → Cloud → Database → API → Code Repository → hệ thống nội bộ.
Khi đó, một quyết định sai không còn dừng ở một câu trả lời sai. Nó có thể trở thành một hành động sai trong hệ thống thật.
Đây là lý do doanh nghiệp cần bắt đầu xem AI Agent như một “digital identity” có quyền hạn, thay vì đơn thuần là một phần mềm thông minh.
5 câu hỏi lãnh đạo doanh nghiệp cần đặt ra
Trước khi đưa AI Agent vào các quy trình quan trọng, doanh nghiệp cần xác định:
- AI được phép truy cập những gì? Áp dụng least privilege và phân quyền theo đúng nhiệm vụ.
- AI được phép hành động đến đâu? Những hành động quan trọng cần approval hoặc human-in-the-loop.
- Ai giám sát AI? Mọi hành động quan trọng cần có logging, monitoring và audit trail.
- Nếu AI hành động bất thường thì sao? Phải có cơ chế giới hạn, thu hồi quyền, cô lập và dừng khẩn cấp.
- Ai chịu trách nhiệm cuối cùng? Quyền tự chủ của AI không thể đồng nghĩa với việc loại bỏ accountability của con người.
Zero Trust sẽ phải mở rộng sang AI
Trong kỷ nguyên Agentic AI, nguyên tắc “Never trust, always verify” không chỉ áp dụng cho con người, thiết bị và ứng dụng.
Nó cần được mở rộng tới cả AI Agents.
Doanh nghiệp cần hướng tới kiến trúc trong đó mỗi AI Agent đều có danh tính xác định, quyền truy cập tối thiểu, phạm vi hành động rõ ràng, khả năng giám sát và cơ chế kiểm soát xuyên suốt vòng đời.
Agentic AI càng mạnh, Governance càng phải mạnh
Vina Aspire nhìn nhận Agentic AI là một trong những bước phát triển quan trọng của AI doanh nghiệp. Công nghệ này có thể tạo ra những bước nhảy lớn về năng suất và tự động hóa, nhưng giá trị chỉ bền vững khi được triển khai cùng Cybersecurity, Identity Security, Data Security và AI Governance ngay từ kiến trúc ban đầu.
Doanh nghiệp không nên lựa chọn giữa AI nhanh hơn và AI an toàn hơn.
Mục tiêu phải là:
AI mạnh hơn – nhưng quyền hạn rõ hơn.
AI tự chủ hơn – nhưng khả năng giám sát tốt hơn.
AI hành động nhanh hơn – nhưng con người vẫn giữ quyền kiểm soát cuối cùng.
Đó có thể sẽ trở thành một trong những chuẩn mực mới của Enterprise AI.
ENGLISH | WHEN AI CAN ACT, ENTERPRISE SECURITY MUST EVOLVE
Generative AI changed how organizations create and consume information. Agentic AI changes something more fundamental: who—or what—can take action inside enterprise systems.
As AI agents gain access to applications, APIs, databases, cloud environments and business workflows, security must evolve from protecting AI conversations to governing AI actions.
Enterprises should therefore treat AI agents as identities with explicitly defined privileges, boundaries and accountability.
The principles are straightforward: least privilege, human approval for critical actions, continuous monitoring, comprehensive audit trails, strong identity controls and emergency revocation mechanisms.
The more autonomous AI becomes, the more important AI Governance and Zero Trust become.
The future is not about choosing between powerful AI and secure AI. It is about building AI that can act at machine speed while remaining within boundaries defined and governed by humans.
Vina Aspire là công ty nghiên cứu, phát triển, tư vấn và kinh doanh trong lĩnh vực Công nghệ cao, Trí tuệ nhân tạo (AI), An ninh mạng, Bảo mật và An toàn thông tin, hoạt động trên toàn cầu có trụ sở tại Việt Nam. Đội ngũ của Vina Aspire gồm những chuyên gia, cộng tác viên giỏi, có trình độ, kinh nghiệm và uy tín cùng các nhà đầu tư, đối tác lớn trong và ngoài nước chung tay xây dựng.
Các Doanh nghiệp, tổ chức có nhu cầu liên hệ Công ty Vina Aspire theo thông tin sau:
Email: info@vina-aspire.com | Website: www.vina-aspire.com
Vina Aspire – Vững bảo mật, trọn niềm tin
—
🇻🇳 AI càng có khả năng hành động, doanh nghiệp càng cần kiểm soát quyền hành động của AI.
Khi AI Agent được kết nối với email, CRM, ERP, Cloud, API và dữ liệu doanh nghiệp, AI Security không còn chỉ là bảo vệ prompt và dữ liệu – mà còn là kiểm soát AI được phép làm gì.
Agentic AI + Zero Trust + AI Governance sẽ là một trong những nền tảng quan trọng của doanh nghiệp trong kỷ nguyên AI.
🇬🇧 The more AI can act, the more enterprises must govern what AI is allowed to do.
As AI agents connect to enterprise applications, data and infrastructure, cybersecurity must evolve from protecting AI conversations to governing AI actions.
More autonomy requires stronger governance.
#VinaAspire #AgenticAI #AIAgents #AISecurity #AIGovernance #CyberSecurity #ZeroTrust #EnterpriseAI #IdentitySecurity #DataSecurity #ResponsibleAI #DigitalTransformation
