Chào bạn, Thiện Mỹ đây. Khi nghe đạo đức AI, nhiều người nghĩ đó là chuyện của các nhà triết học hay những bộ phim khoa học viễn tưởng về robot nổi loạn. Thực ra nó gần gũi hơn nhiều, và đang diễn ra trong những quyết định nhỏ hằng ngày. Tập này mình cố nói thật đơn giản.
Trả lời ngắn: đạo đức AI xoay quanh vài câu hỏi rất đời thường. AI có đối xử công bằng với mọi người không. Người bị ảnh hưởng có biết và hiểu được vì sao AI ra quyết định như vậy không. Dữ liệu dùng để dạy AI có được thu thập đúng cách không. Và khi AI gây hại, ai chịu trách nhiệm. Đây không chỉ là việc của kỹ sư, mà của mọi người dùng và mọi người ra quyết định dùng AI.
Công bằng: khi máy học cả định kiến
AI học từ dữ liệu quá khứ. Nếu quá khứ có định kiến, AI có thể học luôn định kiến đó, và lặp lại nó ở quy mô lớn.
Ví dụ dễ hình dung: một hệ thống lọc hồ sơ xin việc học từ những người được tuyển trước đây. Nếu trước đây công ty ít tuyển một nhóm người nào đó, hệ thống có thể vô tình chấm điểm thấp nhóm đó.
Hệ thống nhận diện giọng nói học chủ yếu từ giọng một vùng có thể nghe kém giọng vùng khác. Với tiếng Việt nhiều phương ngữ, đây là chuyện có thật.
Định kiến của máy khó thấy hơn định kiến của người, vì nó nằm trong con số và ai cũng nghĩ máy thì khách quan.
Công bằng đòi hỏi người làm AI kiểm tra kết quả với các nhóm người khác nhau, và người dùng AI đặt câu hỏi khi thấy kết quả bất thường.
Người dùng cũng có thể góp phần bằng cách báo lại cho nhà cung cấp khi thấy AI trả lời lệch lạc, rập khuôn về một nhóm người. Những phản hồi như vậy giúp người làm AI phát hiện chỗ cần sửa mà họ có thể chưa thấy.
Minh bạch: quyền được biết và được hiểu
Nếu một quyết định ảnh hưởng tới bạn, như được vay tiền hay không, hồ sơ có được xét tiếp không, bạn có quyền biết AI tham gia vào quyết định đó.
Bạn cũng nên được giải thích ở mức có thể hiểu: những yếu tố nào ảnh hưởng nhiều nhất, và bạn có thể làm gì để thay đổi kết quả.
Nhiều mô hình AI phức tạp tới mức chính người làm ra cũng khó giải thích từng quyết định. Đây là thách thức kỹ thuật thật.
Ít nhất, cần có con người xem xét lại khi người bị ảnh hưởng khiếu nại. Không nên để một quyết định quan trọng hoàn toàn do máy mà không ai chịu nghe.
Minh bạch cũng là nói rõ khi bạn đang trò chuyện với máy chứ không phải người, và khi hình ảnh, giọng nói là do AI tạo ra.
Dữ liệu: AI học từ đâu
Các mô hình AI lớn học từ lượng dữ liệu khổng lồ: văn bản, hình ảnh, âm thanh từ internet và nhiều nguồn khác.
Câu hỏi đặt ra: người tạo ra những dữ liệu ấy có đồng ý không, có được ghi nhận không, có được chia lợi ích không. Đây là chủ đề đang được tranh luận và giải quyết qua luật pháp ở nhiều nơi.
Với dữ liệu cá nhân, câu hỏi càng nhạy cảm: thông tin của bạn có bị dùng để huấn luyện AI mà bạn không biết không.
Người dùng có thể đọc chính sách của dịch vụ, tìm tuỳ chọn tắt việc dùng dữ liệu của mình để huấn luyện nếu có.
Doanh nghiệp dùng AI cần cẩn thận với dữ liệu khách hàng, chỉ dùng trong phạm vi đã được đồng ý và đúng quy định bảo vệ dữ liệu cá nhân.
Trách nhiệm: khi AI sai thì ai chịu
AI sai là chuyện chắc chắn sẽ xảy ra. Câu hỏi là khi sai gây hại, ai chịu trách nhiệm.
Không thể đổ cho máy. Máy không có tài sản để bồi thường, không có lương tâm để hối lỗi. Trách nhiệm phải thuộc về con người: người làm ra, người bán, người quyết định dùng, người vận hành.
Trong doanh nghiệp, nếu bạn dùng AI để trả lời khách và nó trả lời sai, khách sẽ coi đó là câu trả lời của công ty bạn.
Vì vậy, khi đưa AI vào quy trình, cần xác định rõ ai giám sát, ai kiểm tra, ai chịu trách nhiệm khi có sự cố.
Những lĩnh vực có hậu quả lớn như y tế, tài chính, tư pháp, tuyển dụng càng cần con người giữ quyết định cuối cùng.
Nhiều quốc gia đang xây dựng luật về AI, phân loại theo mức độ rủi ro. Người làm AI và dùng AI nên theo dõi để làm đúng.
Ảnh hưởng tới xã hội rộng hơn
Ngoài từng quyết định, AI còn ảnh hưởng tới xã hội ở quy mô lớn: việc làm, thông tin sai lệch, quyền riêng tư, môi trường vì tiêu tốn năng lượng.
Nội dung giả do AI tạo có thể làm người ta khó phân biệt thật giả, ảnh hưởng tới lòng tin chung.
Lợi ích của AI có thể tập trung vào một số ít người và công ty, trong khi rủi ro lại rải cho nhiều người.
Những câu hỏi này không có câu trả lời đơn giản, và cần sự tham gia của nhiều bên: nhà nước, doanh nghiệp, nhà khoa học, người dân.
Mình không muốn vẽ bức tranh u ám. AI cũng mang lại rất nhiều lợi ích. Nhưng lợi ích bền vững chỉ đến khi rủi ro được nhìn thẳng.
Người dùng bình thường có thể làm gì
Giữ thói quen kiểm tra lại thông tin AI đưa ra, nhất là thông tin quan trọng về sức khoẻ, pháp lý, tài chính.
Đặt câu hỏi khi bị một hệ thống tự động từ chối: vì sao, có ai xem lại được không.
Cẩn thận với dữ liệu cá nhân đưa vào các công cụ AI.
Ghi rõ khi nội dung bạn chia sẻ do AI tạo ra, đặc biệt là hình ảnh, giọng nói giống người thật.
Ủng hộ những sản phẩm, doanh nghiệp dùng AI có trách nhiệm, minh bạch với người dùng.
Câu hỏi cho bạn tập này: trong tuần qua, có quyết định nào ảnh hưởng tới bạn mà bạn nghĩ có AI tham gia không?
Câu hỏi thường gặp
Đạo đức AI là gì?
Là những câu hỏi về việc AI có công bằng không, có minh bạch không, dữ liệu huấn luyện có được thu thập đúng không và ai chịu trách nhiệm khi AI gây hại.
Vì sao AI có thể thiên lệch?
Vì AI học từ dữ liệu quá khứ, nếu dữ liệu có định kiến hoặc thiếu một số nhóm người thì AI có thể lặp lại định kiến đó ở quy mô lớn.
Khi AI ra quyết định sai thì ai chịu trách nhiệm?
Con người: người làm ra, người bán, người quyết định dùng và người vận hành hệ thống. Không thể đổ trách nhiệm cho máy.
Tôi có quyền biết AI tham gia quyết định về mình không?
Theo nguyên tắc minh bạch, người bị ảnh hưởng nên được biết và được giải thích ở mức có thể hiểu, cùng cơ hội để con người xem xét lại.
Người dùng bình thường có thể góp phần gì?
Kiểm tra lại thông tin AI đưa ra, đặt câu hỏi khi bị hệ thống tự động từ chối, cẩn thận với dữ liệu cá nhân và ghi rõ khi nội dung do AI tạo.
