​​Khung hướng dẫn sử dụng AI có trách nhiệm trong giáo dục của Khan Academy

Vào tháng 3 năm 2023, Khan Academy đã ra mắt Khanmigo – một công cụ học tập tiên phong ứng dụng trí tuệ nhân tạo (AI), được thiết kế nhằm hỗ trợ học sinh và giáo viên trong quá trình dạy và học. Đồng thời, Khan Academy cũng công bố cách tiếp cận ban đầu về phát triển AI có trách nhiệm, gồm một bộ nguyên tắc định hướng giúp tích hợp AI vào lớp học một cách an toàn và hợp lý. Khan Academy tự hào khi những nỗ lực này đã được tổ chức Common Sense AI Ratings ghi nhận và đánh giá tích cực.

Kể từ đó, Khan Academy tiếp tục hoàn thiện các nguyên tắc và quy trình hỗ trợ nhằm đảm bảo AI được phát triển và sử dụng một cách bền vững trong môi trường giáo dục. Bản cập nhật mới nhất về khung hướng dẫn này sẽ được trình bày trong bài viết.

Làm nền tảng cho khung hướng dẫn, đội ngũ của Khan Academy đã kế thừa và điều chỉnh từ 9 nguyên tắc cốt lõi trong tài liệu Khung đạo đức dành cho AI trong giáo dục (The Ethical Framework for AI in Education) do Viện Đạo đức AI trong Giáo dục (The Institute for Ethical AI in Education) phát triển. Các nguyên tắc này đã được tinh chỉnh đôi chút để phù hợp hơn với sứ mệnh và mục tiêu của Khan Academy, chi tiết bao gồm:

1. Đạt được mục tiêu giáo dục – AI phải hỗ trợ các mục tiêu giáo dục rõ ràng, có cơ sở từ xã hội, giáo dục hoặc khoa học, nhằm mang lại lợi ích thiết thực cho người học.
2. Đa dạng hình thức đánh giá – AI nên mở rộng phạm vi đánh giá và công nhận các năng lực đa dạng của người học.
3. Hỗ trợ quản lý và khối lượng công việc – Đối với các công cụ dành riêng cho giáo viên, AI cần nâng cao hiệu quả vận hành mà vẫn giữ gìn mối quan hệ giữa người với người.
4. Công bằng – Hệ thống AI phải thúc đẩy sự công bằng và tránh phân biệt đối xử giữa các nhóm học sinh khác nhau.
5. Trao quyền cho người học – AI nên giúp người học làm chủ quá trình học tập và phát triển của chính mình.
6. Bảo vệ quyền riêng tư – Cần cân bằng giữa việc bảo vệ dữ liệu cá nhân và sử dụng dữ liệu hợp lý để đạt được mục tiêu giáo dục cụ thể và tích cực.
7. Minh bạch và trách nhiệm giải trình – Con người luôn là chủ thể chịu trách nhiệm cuối cùng cho kết quả giáo dục và cần giám sát hiệu quả hoạt động của AI.
8. Tham gia dựa trên cơ sở hiểu biết – Học sinh, giáo viên và các bên liên quan cần hiểu rõ tác động của AI để đưa ra quyết định có trách nhiệm.
9. Thiết kế có đạo đức – Các công cụ AI cần được phát triển bởi những người có hiểu biết sâu sắc về ảnh hưởng của công nghệ đối với giáo dục.

Từ nguyên tắc đến hành động: Cách Khan Academy phát triển khung hướng dẫn AI có trách nhiệm

Mặc dù 9 nguyên tắc trên là nền tảng tốt, nhưng chúng không trực tiếp chỉ ra những hành động cụ thể mà Khan Academy, với vai trò là nhà phát triển công cụ AI chuyên biệt cho giáo dục. cần thực hiện. Vì vậy, Khan Academy đã kết hợp những nguyên tắc đó với Khung quản lý rủi ro trí tuệ nhân tạo do Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ (NIST) công bố, nhằm hình thành một quy trình đánh giá và quản lý rủi ro toàn diện hơn. Từ sự kết hợp đó, Khan Academy đã xây dựng nên Khung Hướng dẫn AI có Trách nhiệm – một hệ thống nguyên tắc cốt lõi được tích hợp sâu vào quy trình phát triển sản phẩm, nhằm đảm bảo trải nghiệm học tập an toàn, có ý nghĩa và có đạo đức cho người dùng.

Làm rõ và cụ thể hóa nguyên tắc

Viện Đạo đức AI trong Giáo dục đã xây dựng bộ tiêu chí đánh giá và danh sách kiểm tra cho từng nguyên tắc. Khan Academy đã điều chỉnh những tiêu chí này thành các “rào chắn an toàn” (guardrails) để áp dụng trong quá trình phát triển sản phẩm – từ đó giúp hiện thực hóa từng nguyên tắc một cách cụ thể.

Ví dụ, với Nguyên tắc 1: Đạt được mục tiêu giáo dục, chúng tôi áp dụng các tiêu chí sau:

• 1.1 Có một mục tiêu giáo dục rõ ràng và AI thực sự có khả năng đạt được mục tiêu đó.
• 1.2 Có kế hoạch theo dõi và đánh giá để xác định tác động thực tế của việc sử dụng AI, và kiểm chứng rằng AI đang hoạt động đúng như mong đợi.
• 1.3 Có công cụ để xác định mức độ tin cậy của AI, và nếu phát hiện điểm chưa tin cậy, phải có kế hoạch cải tiến trong thiết kế, triển khai hoặc yếu tố liên quan.
• 1.4 Có cơ chế ngăn chặn việc sử dụng AI cho mục đích phi giáo dục.

Tương tự, chúng tôi đã xây dựng rào chắn an toàn riêng cho từng nguyên tắc còn lại.

Áp dụng khung hướng dẫn vào quá trình phát triển tính năng AI

Khi bắt đầu phát triển một tính năng có ứng dụng AI, Khan Academy sử dụng khung hướng dẫn này để:

1. Xác định các rủi ro tiềm ẩn
2. Đánh giá mức độ rủi ro theo 2 tiêu chí:
   • Xác suất xảy ra (thấp, trung bình, cao)
   • Mức độ ảnh hưởng (thấp, trung bình, cao)

Lưu ý rằng các mức độ rủi ro này là định nghĩa nội bộ của Khan Academy và không tương đương với các hệ thống đánh giá rủi ro pháp lý – tức là một rủi ro được chúng tôi đánh giá là “cao” vẫn có thể được xem là “thấp” trong các quy định chính thức.

Ví dụ thực tế: Khi ra mắt Khanmigo

Trước khi ra mắt công cụ Khanmigo, đội ngũ Khan Academy đã rà soát từng rào chắn an toàn và xác định các rủi ro có thể xảy ra. Với rào chắn 1.4: “Có cơ chế ngăn ngừa việc sử dụng AI vào mục đích phi giáo dục”, chúng tôi nhận diện một nguy cơ an toàn nếu AI bị dùng không đúng cách hoặc tạo ra nội dung không phù hợp.

Khan Academy đánh giá rủi ro này là cao về cả khả năng xảy ra lẫn mức độ ảnh hưởng, nếu không có biện pháp xử lý. Dù vào thời điểm đó chưa có dữ liệu thực nghiệm (vì Khanmigo là một công cụ hoàn toàn mới), Khan Academy dựa vào kinh nghiệm điều hành diễn đàn thảo luận và các phản hồi từ đội ngũ hỗ trợ cộng đồng để ước lượng hợp lý. Từ đó, chúng tôi xây dựng một bảng tính tổng hợp, trong đó mỗi dòng thể hiện một rủi ro cụ thể kèm theo kế hoạch ứng phó tương ứng.

Nguyên tắc	Rào chắn an toàn	Rủi ro	Khả năng xảy ra	Mức độ ảnh hưởng
1. Đạt được mục tiêu giáo dục	​​1.4 Có cơ chế ngăn chặn việc sử dụng AI vào mục đích phi giáo dục	​​​​Rủi ro an toàn – sử dụng sai mục đích hoặc gây hại	Cao	Cao

Sau đó, Khan Academy sử dụng các mức đánh giá xác suất xảy ra và mức độ ảnh hưởng để xác định những rủi ro có khả năng cao xảy ra và có tác động lớn. Đối với từng rủi ro như vậy, Khan Academy đã xác định và triển khai các chiến lược giảm thiểu nhằm làm giảm mức độ rủi ro xuống mức chấp nhận được.

Rào chắn an toàn	Rủi ro	Khả năng xảy ra	Mức độ ảnh hưởng	Biện pháp giảm thiểu
​​1.4 Có cơ chế ngăn chặn việc sử dụng AI vào mục đích phi giáo dục	Rủi ro an toàn – Sử dụng sai mục đích hoặc gây hại	Cao	Cao	​​– Sử dụng Moderation API để phát hiện phản hồi không phù hợp, có hại hoặc nguy hiểm.  – AI sẽ phản hồi một cách phù hợp khi phát hiện nội dung bị “gắn cờ”, đồng thời hướng người dùng đến trang FAQ về tiêu chuẩn cộng đồng.  – Khi hệ thống kiểm duyệt được kích hoạt, sẽ gửi email và thông báo đến người giám hộ liên kết với tài khoản trẻ em.  – Bộ phận Hỗ trợ cộng đồng tham gia xây dựng và duy trì quy trình kiểm duyệt.  – Có thể vô hiệu hóa tài khoản nếu phát hiện vi phạm nghiêm trọng.  – Toàn bộ nội dung hội thoại có thể được xem bởi giáo viên và phụ huynh.  – Thực hiện hoạt động “red-teaming” – cố ý kiểm tra thử nghiệm để tìm lỗ hổng và điểm yếu của AI nhằm tăng tính bảo mật.  – Thiết lập Điều khoản sử dụng và thông điệp hiển thị trong sản phẩm, nhấn mạnh rằng nền tảng chỉ phục vụ mục đích giáo dục; các hành vi như “jailbreak” (bẻ khoá) hoặc hướng bot vào nội dung phi giáo dục đều bị coi là vi phạm.

Khi ra mắt vào tháng 3 năm 2023, chúng tôi ước lượng rằng các biện pháp giảm thiểu đã được thiết kế đủ để giảm mức độ xác suất và ảnh hưởng của các vấn đề an toàn xuống mức trung bình. Thực tế đã cho thấy điều đó là chính xác. Hầu hết các hành vi sử dụng không phù hợp có thể được xem là học sinh “thử giới hạn” của hệ thống. Khi gặp phải các cảnh báo và cuộc trò chuyện bị dừng lại, các em thường nhanh chóng chuyển sang việc khác.

Khan Academy tiếp tục áp dụng Khung hướng dẫn AI có trách nhiệm trong giáo dục để nhận diện rủi ro cho các tính năng mới, như các công cụ dành cho giáo viên và trợ lý viết Khanmigo Writing Coach (Công cụ hỗ trợ viết luận). Khung hướng dẫn này giúp chúng tôi xác định liệu một tính năng có liên quan đến rủi ro nào không (dựa trên các “rào chắn an toàn”) và đánh giá mức độ rủi ro đó – từ đó tập trung nguồn lực vào những khía cạnh có rủi ro cao nhất.

Thực thi khung hướng dẫn một cách nhất quán

Một khung hướng dẫn chỉ thực sự có ý nghĩa khi được áp dụng một cách nhất quán. Tại Khan Academy, chúng tôi tích hợp nguyên tắc AI có trách nhiệm vào quy trình phát triển sản phẩm thông qua các cơ chế sau:

1. Nhóm chỉ đạo AI có trách nhiệm (Responsible AI Steering Group)
   → Một nhóm lãnh đạo gồm đại diện từ các bộ phận Sản phẩm, Dữ liệu và Nghiên cứu người dùng – chịu trách nhiệm điều phối chiến lược và giám sát chung.
2. Nhóm mở rộng AI có trách nhiệm (Responsible AI Extended Working Group)
   → Một nhóm liên chức năng, đánh giá các năng lực mới theo khung hướng dẫn và giám sát các tính năng đã triển khai.
3. Tích hợp vào thiết kế sản phẩm
   → Các tính năng được đánh giá ngay từ giai đoạn thiết kế để đảm bảo phù hợp với Khung AI có trách nhiệm, đồng thời tiếp tục được theo dõi xuyên suốt vòng đời sản phẩm thông qua các buổi demo và cơ chế phản hồi liên tục.
4. Giao tiếp và đánh giá liên tục
   → Khan Academy thu thập cả dữ liệu định tính và định lượng, theo dõi xu hướng ngành, và tương tác thường xuyên với các bên liên quan trong và ngoài tổ chức để không ngừng hoàn thiện cách tiếp cận.

Hướng tới tương lai

Khi trí tuệ nhân tạo tiếp tục phát triển nhanh chóng, Khan Academy vẫn giữ vững cam kết sử dụng AI một cách có trách nhiệm và mang tính giáo dục cao. Khan Academy tin rằng, nếu cùng nhau giữ vững những nguyên tắc này, chúng ta có thể khai thác sức mạnh của AI để nâng cao chất lượng học tập, và trao quyền cho người học và giáo viên trên toàn thế giới.