Tuần trước, tôi nhận được một tin: Meta bị cơ quan quản lý Mỹ ra lệnh giải thích cách AI của họ quyết định sa thải nhân viên, đặc biệt là những người có visa H-1B. Không chỉ là chuyện luật lao động, mà còn là lời cảnh báo cho cả ngành công nghệ, bao gồm cả blockchain.
Context: Tại sao lại là AI? Meta sử dụng một hệ thống AI để đánh giá hiệu suất và tự động đưa ra danh sách sa thải. Vấn đề là mô hình này học từ dữ liệu lịch sử, có thể chứa đựng những thiên kiến vô tình – ví dụ như tỷ lệ sa thải trước đây ở nhóm nhân viên visa cao hơn. Khi AI đưa ra quyết định, nó tạo ra một vòng lặp: dữ liệu thiên lệch -> quyết định thiên lệch -> cơ quan quản lý vào cuộc.
Core: Kĩ thuật ở đây là gì? Tôi đã tự build một mockup dựa trên hợp đồng thông minh để mô phỏng. AI của Meta hoạt động như một black box – không có fail-safe cho việc kiểm toán đầu ra. Nếu đây là một smart contract trên Ethereum, mọi người có thể đọc mã nguồn và phát hiện lỗ hổng ngay lập tức. Nhưng ở đây, chỉ có Meta biết trọng số của model.
Phân tích dữ liệu từ Celestia lưu dưới dạng blob, nhưng nếu bạn không thể kiểm tra blob đó thì nó cũng vô ích. Tương tự, Meta không thể chỉ nói “AI của tôi công bằng” mà không đưa ra bằng chứng. Họ cần một sandbox để kiểm định lại toàn bộ quá trình ra quyết định.
Contrarian: Giải pháp từ Blockchain? Nhiều người nói “dùng Blockchain để minh bạch AI”. Nhưng không đơn giản vậy. Nếu đưa toàn bộ trọng số model lên on-chain, bạn sẽ tốn hàng triệu gas phí. Thay vào đó, một zk-proof chứng minh rằng quyết định sa thải không dựa trên quốc tịch có thể làm được. Tôi đã thử nghiệm với EigenLayer: dùng một transformer nhỏ để dự đoán phí gas, nhưng việc xác thực tính công bằng vẫn là bài toán mở.
Uniswap v2 không có fail-safe cho việc này, nhưng nếu bạn hiểu kiến trúc modular thì bạn có thể tách phần ra quyết định và phần kiểm định. Việc Meta bị điều tra chính là minh chứng: nếu không có cơ chế kiểm toán ngoại vi, mọi hệ thống tập trung đều sẽ thất bại.
Takeaway: Lời khuyên cho dự án Blockchain Đừng đợi đến khi bị kiện mới nghĩ đến AI compliance. Hãy tích hợp một lớp xác thực tính công bằng ngay từ đầu. Sử dụng zk-SNARKs hoặc môi trường sandbox để kiểm tra mọi quyết định tự động. Dữ liệu từ Celestia cho thấy: nếu bạn không xác thực được data availability, bạn không thể tin tưởng bất cứ thứ gì. Tương tự, nếu bạn không thể kiểm toán AI, bạn cũng không thể tin tưởng nó.
Meta, tôi đã tự build một mô hình sandbox cho trường hợp này. Nếu họ muốn, tôi có thể demo. Nhưng tôi nghĩ họ sẽ chọn cách trả tiền phạt hơn là thay đổi kiến trúc.