1. Thông tin tổng quan:

Hệ thống AI tập trung là giải pháp toàn diện cho việc chuyển đổi số, áp dụng trí tuệ nhân tạo vào hệ thống ngân hàng bằng việc thiết lập cơ sở hạ tầng, nền tảng xử lý, phần mềm nghiệp vụ được vận hành với sự hỗ trợ của AI, tạo nên 1 hệ sinh thái nội bộ phục vụ cho hoạt động của ngân hàng. Hệ thống sẽ được tích hợp trên máy chủ ngân hàng ngân hàng gồm bốn thành phần chính: AI DeepCode Local hỗ trợ lập trình viên qua Web-UI và Agentic API dành cho đội ngũ lập trình để phát triển ứng dụng nghiệp vụ ngân hàng (đã được triển khai); AI-CORE là hệ thống lõi xử lý tập trung mọi yêu cầu người dùng trong hệ thống ngân hàng (đã được triển khai quy mô nhỏ); AI-HUB quản lý phân quyền và điều hướng dữ liệu; và MICROSERVICES cung cấp các dịch vụ chuyên biệt như xử lý email, hỗ trợ code, tìm kiếm tài liệu, đào tạo cán bộ. Hệ thống triển khai on-premise đảm bảo bảo mật và đang được triển khai nội bộ tại phòng Ngân hàng điện tử, với mong muốn phục vụ hỗ trợ thực hiện nghiệp vụ cho toàn bộ hệ thống trụ sở và chi nhánh của ngân hàng.

2. Mục tiêu và lĩnh vực áp dụng:

2.1. Mục tiêu chính:

• Nâng cao năng suất và chất lượng hoạt động tại Trung tâm Công nghệ thông tin Agribank.
• Tối ưu hóa quy trình công việc thông qua tự động hóa các tác vụ lặp lại.
• Tăng cường bảo mật thông tin và dữ liệu ngân hàng.
• Tự xây dựng AI Agent in-house phục vụ các giải pháp nội bộ, giảm phụ thuộc vào các giải pháp bên ngoài.
• Tạo nền tảng công nghệ cho sự phát triển bền vững & chuyển đổi số của ngân hàng.

2.2. Lĩnh vực áp dụng:

Phát triển phần mềm và công nghệ thông tin; Quản lý văn bản tài liệu nội bộ; Tự động hóa một số quy trình nghiệp vụ; Phân tích dữ liệu và hỗ trợ ra quyết định; Chuyển đổi số quy trình nội bộ ngân hàng.

3. Thực trạng vấn đề

• Khối lượng công việc lớn trong khi nguồn lực IT có hạn, tạo áp lực đáng kể lên đội ngũ phát triển.
• Thời gian phát triển ứng dụng nghiệp vụ mới kéo dài 7-9 tháng, không đáp ứng kịp nhu cầu kinh doanh và thay đổi của thị trường.
• Các giải pháp AI thương mại (như GitHub Copilot, ChatGPT) không thể sử dụng do yêu cầu gửi mã nguồn ra máy chủ bên ngoài, vi phạm quy định bảo mật ngân hàng.
• Chưa tận dụng tối đa hết tài nguyên hạ tầng phần cứng hiện đại của ngân hàng.
• Đa số người dùng chưa tận dụng hết được khả năng của AI để hỗ trợ công việc do chưa có hướng dẫn, do câu lệnh phức tạp hoặc chưa có hệ thống chuẩn hóa cho nghiệp vụ của ngân hàng.

4. Nội dung cốt lõi và tính mới, tính sáng tạo:

Kiến trúc:

Hệ thống Core xử lý AI và nền tảng AI-HUB trong ngân hàng được phát triển theo kiến trúc vi dịch vụ (microservices) hiện đại, gồm ba thành phần chính tương tác với nhau:

• AI-CORE: Hạt nhân xử lý trí tuệ nhân tạo. Đây là trung tâm xử lý yêu cầu từ người dùng dựa trên mô hình ngôn ngữ lớn (LLM) được triển khai on-premise, xử lý đa dạng nhiệm vụ từ hỗ trợ lập trình đến phân tích tài liệu và tự động hóa quy trình. Mô hình ngôn ngữ sẽ được đào tạo và sử dụng các bộ dữ liệu của ngân hàng, đảm bảo tính bảo mật của hệ thống cũng như cho phép AI thực hiện trả lời và thực hiện các chức năng nghiệp vụ của ngân hàng.
• AI-HUB: Nền tảng tích hợp và quản lý trung tâm. Đây là bộ phận quản lý tập trung cho toàn bộ hệ sinh thái AI trong ngân hàng, thực hiện quản lý người dùng, phân quyền và kiểm soát truy cập theo vai trò. Đồng thời, AI-HUB hỗ trợ điều phối luồng dữ liệu và yêu cầu giữa các microservices và AI-CORE và cung cấp giao diện thống nhất và khả năng mở rộng linh hoạt cho hệ thống.
• MICROSERVICES: Các dịch vụ chuyên biệt. Đây là các dịch vụ nhỏ, độc lập với chức năng chuyên biệt: xử lý email, hỗ trợ coding, tìm kiếm tài liệu, được thiết kế theo nguyên tắc “mỗi dịch vụ chỉ làm một việc và làm xuất sắc việc đó”. Các phần mềm sẽ được phân quyền theo đúng chức năng nhiệm vụ của phòng ban nhằm thuận tiện cho việc sử dụng, đào tạo, giảm thiểu tải trọng tới AI-CORE và tiết kiệm chi phí.

Mô tả kết nối & phương thức hoạt động:

• AI-CORE sẽ được triển khai trên hệ thống máy chủ biệt lập của ngân hàng và được quản lý bởi các khối công nghệ liên quan, cho phép kết nối với các cơ sở dữ liệu, thư viện, dịch vụ nội bộ trong ngân hàng. Người dùng nội bộ sẽ truy cập qua trình duyệt trên máy và đăng nhập vào hệ thống AI HUB trên máy chủ Web-UI để phục vụ nhu cầu công việc: tìm kiếm, xử lý, hỗ trợ nghiệp vụ, v.v… (VD: người dùng ra câu lệnh: “Tìm cho tôi mẫu 04A về cung cấp thiết bị.” hoặc “Tìm các công việc của tôi trong tháng vừa rồi và hỗ trợ tôi viết báo cáo.”).
• AI-HUB sẽ tiếp nhận các câu lệnh và gửi lên phía AI-CORE để thực hiện xử lý. AI-CORE, với quyền được truy cập hệ thống và các dữ liệu sẵn có, thực hiện tìm kiếm các dữ liệu liên quan, sẽ trả kết quả về cho AI-HUB (VD: “AI-HUB, với nhu cầu tìm kiếm, hãy sử dụng MICROSERVICE tìm kiếm và nhập văn bản, đưa mẫu 04A cho người dùng và nhập sẵn những dữ liệu cần thiết” hoặc “AI-HUB, với nhu cầu này, hãy sử dụng MICROSERVICE, truy cập vào hệ thống email và nhân sự, tìm các đầu việc liên quan trong tháng, sau đó dùng MICROSERVICE soạn thảo văn bản để viết thành báo cáo công việc”).
• AI-HUB, sau khi nhận được kết quả từ phía AI-CORE, sẽ điều phối các MICROSERVICES để thực hiện các tác vụ theo yêu cầu của người dùng, hoặc trả lời theo yêu cầu các thông tin liên quan như kiến thức nghiệp vụ, thông tư, điều lệ v.v…

Tính mới & sáng tạo:

• Phát triển để phù hợp với hệ thống ngân hàng qua tối ưu hóa phân quyền, tài nguyên, cho phép ngân hàng sử dụng & cập nhật liên tục mà vẫn đảm bảo việc bảo mật thông tin theo quy định do triển khai trên môi trường nội bộ khép kín, không gửi dữ liệu ra ngoài, và chỉ những người được cấp quyền mới được phép truy cập các tài liệu mật.
• Sử dụng kết hợp nhiều công nghệ tân tiến như Advanced Retrieval Augmented Generations (aRAG), Model Context Protocol (MCP), LangChain, v.v…, hợp nhất để tạo thành 1 hệ thống đa chức năng, hiện đại và đáp ứng được nhiều quy trình nghiệp vụ phức tạp của ngân hàng.
• Cho phép ngân hàng nắm bắt xu hướng & làm chủ công nghệ AI agentic, áp dụng phục vụ trực tiếp công việc thay vì sử dụng phổ thông, đại trà, giảm phụ thuộc vào các giải pháp tốn kém, cũng như cho phép nhân rộng, tích hợp linh hoạt với mọi nhu cầu nghiệp vụ phát sinh mới.

4. Quá trình triển khai & hiệu quả đạt được:

Đầu tiên, phía phòng hệ thống và các phòng ban liên quan sẽ thực hiện đánh giá nhu cầu, phần cứng hiện hành, tài nguyên cần cung cấp cho hệ thống AI. Sau đó, đội ngũ lập trình sẽ cài đặt, phát triển và tối ưu các thành phần AI-Core và AI-HUB và một số MICROSERVICES cần thiết cho nhu cầu nghiệp vụ. Hệ thống sau đó sẽ được quét tuân thủ, bảo mật toàn diện, kiểm thử hiệu năng và đánh giá hiệu quả. Phòng an toàn thông tin và phòng mạng sẽ thực hiện phân cấp hệ thống, phân quyền người dùng và mở kết nối cho người dùng tại các trụ sở và chi nhánh trực thuộc ngân hàng để tiến hành sử dụng.

Hiện tại 1 hệ thống AI tập trung thu nhỏ: AI DeepCode Local đã được triển khai thành công trong nội bộ phòng Ngân hàng điện tử. Hệ thống đang được ứng dụng để hỗ trợ công việc của các lập trình viên trong phòng bằng cách đưa ra đề xuất hướng triển khai, fix lỗi, đánh giá bảo mật và giảm thiểu thời gian lập trình, được tích hợp trực tiếp vào IDE (môi trường phát triển) để tiện lợi cho sử dụng. Ngoài ra có 1 số MICROSERVICES cũng đang được triển khai như phần mềm đọc hiểu và tra cứu tài liệu, chuyển đổi và lưu trữ tài liệu, tra cứu email.

5. Khả năng nhân rộng:

Nhờ được phát triển theo kiến trúc vi dịch vụ (Microservices), khả năng nhân rộng của hệ thống AI cho phép tùy biến dễ dàng, linh hoạt và nhanh chóng, phụ thuộc hoàn toàn vào nhu cầu phát sinh của ngân hàng: Vấn đề => Giải pháp microservices mới. Mỗi microservice sẽ được phát triển theo hướng 1 mô-đun nhỏ, giảm tải thời gian và đơn giản hóa việc lập trình, giúp đáp ứng nhu cầu nhanh chóng. Với tính mô-đun hóa như vậy, các microservices cũng sẽ không gây ảnh hưởng lên hệ thống AI-CORE và AI-HUB khi triển khai, cho phép lập trình viên làm việc theo quy trình CI-CD, liên tục cập nhật tính năng mới mà không cần phải tạm ngưng dịch vụ để bảo trì và chỉnh sửa.