Hoàng Bảo Anh
Thành viên
Bối cảnh. Các chuyên gia quan sát và số liệu tiến triển của trí tuệ nhân tạo (AI) chỉ ra rằng AI sẽ vượt qua trí thông minh của con người trong vòng vài thập kỷ. Liệu AI nói chung vượt qua khả năng của con người (AGI) sẽ là lợi ích lớn nhất trong lịch sử hay là thảm họa vẫn chưa được biết. Không có bằng chứng nào cho thấy AGI sẽ có lợi cho con người hoặc AGI sẽ không gây hại hoặc loại bỏ con người.
Mục tiêu. Tôi đề xuất một tập hợp các thành phần khái niệm riêng biệt về mặt logic, cần thiết và đủ để 1) đảm bảo rằng hầu hết các kịch bản AGI đã biết sẽ không gây hại cho nhân loại và 2) liên kết chặt chẽ các giá trị và mục tiêu của AGI với các giá trị của con người.
Phương pháp. Bằng cách giải quyết có hệ thống từng loại con đường dẫn đến AI độc hại, chúng ta có thể đưa ra các phương pháp/tiên đề cần thiết để khắc phục loại đó.
Kết quả và thảo luận. Công nghệ sổ cái phân tán (DLT, blockchain) là một phần không thể thiếu của đề xuất này, ví dụ như để giảm khả năng bị tấn công, cung cấp dấu vết kiểm toán để phát hiện và sửa lỗi hoặc xác định các thành phần gây ra lỗ hổng hoặc lỗi và thay thế hoặc tắt chúng từ xa và/hoặc tự động, và để tách biệt và cân bằng các thành phần AGI chính thông qua các ứng dụng phi tập trung (dApp). Các hợp đồng thông minh dựa trên DLT là cần thiết để giải quyết sự tiến hóa của AI, vốn sẽ diễn ra quá nhanh để con người có thể giám sát và can thiệp.
Các tiên đề được đề xuất. 1) Tiếp cận công nghệ theo giấy phép thị trường. 2) Đạo đức minh bạch được thể hiện trong DLT. 3) Đạo đức được mã hóa thông qua DLT. 4) Cấu trúc kiểm soát hành vi với các giá trị (đạo đức) làm gốc rễ. 5) Nhận dạng mã vạch riêng lẻ của tất cả các thành phần quan trọng. 6) Mục cấu hình (từ kế hoạch phục hồi sau thảm họa/tiếp tục kinh doanh). 7) Xác minh danh tính được bảo mật thông qua DLT. 8) Hợp đồng tự động thông minh dựa trên DLT. 9) Ứng dụng phi tập trung - Mô-đun mã phần mềm AI được mã hóa thông qua DLT. 10) Dấu vết kiểm toán về việc sử dụng thành phần được lưu trữ thông qua DLT. 11) Sự tẩy chay xã hội (từ chối các nguồn lực của xã hội) được tăng cường bởi các kiến nghị của DLT.
Mục tiêu. Tôi đề xuất một tập hợp các thành phần khái niệm riêng biệt về mặt logic, cần thiết và đủ để 1) đảm bảo rằng hầu hết các kịch bản AGI đã biết sẽ không gây hại cho nhân loại và 2) liên kết chặt chẽ các giá trị và mục tiêu của AGI với các giá trị của con người.
Phương pháp. Bằng cách giải quyết có hệ thống từng loại con đường dẫn đến AI độc hại, chúng ta có thể đưa ra các phương pháp/tiên đề cần thiết để khắc phục loại đó.
Kết quả và thảo luận. Công nghệ sổ cái phân tán (DLT, blockchain) là một phần không thể thiếu của đề xuất này, ví dụ như để giảm khả năng bị tấn công, cung cấp dấu vết kiểm toán để phát hiện và sửa lỗi hoặc xác định các thành phần gây ra lỗ hổng hoặc lỗi và thay thế hoặc tắt chúng từ xa và/hoặc tự động, và để tách biệt và cân bằng các thành phần AGI chính thông qua các ứng dụng phi tập trung (dApp). Các hợp đồng thông minh dựa trên DLT là cần thiết để giải quyết sự tiến hóa của AI, vốn sẽ diễn ra quá nhanh để con người có thể giám sát và can thiệp.
Các tiên đề được đề xuất. 1) Tiếp cận công nghệ theo giấy phép thị trường. 2) Đạo đức minh bạch được thể hiện trong DLT. 3) Đạo đức được mã hóa thông qua DLT. 4) Cấu trúc kiểm soát hành vi với các giá trị (đạo đức) làm gốc rễ. 5) Nhận dạng mã vạch riêng lẻ của tất cả các thành phần quan trọng. 6) Mục cấu hình (từ kế hoạch phục hồi sau thảm họa/tiếp tục kinh doanh). 7) Xác minh danh tính được bảo mật thông qua DLT. 8) Hợp đồng tự động thông minh dựa trên DLT. 9) Ứng dụng phi tập trung - Mô-đun mã phần mềm AI được mã hóa thông qua DLT. 10) Dấu vết kiểm toán về việc sử dụng thành phần được lưu trữ thông qua DLT. 11) Sự tẩy chay xã hội (từ chối các nguồn lực của xã hội) được tăng cường bởi các kiến nghị của DLT.