Singularity

Điểm kỳ dị công nghệ là một thời điểm giả định trong tương lai, khi trí tuệ nhân tạo (AI) có thể tự cải thiện nhanh hơn khả năng con người theo kịp, kích hoạt sự tăng trưởng mất kiểm soát của trí tuệ máy móc và những biến đổi xã hội không thể dự đoán từ trước thời điểm đó. Tên gọi này bắt nguồn từ toán học và vật lý, nơi điểm kỳ dị là vị trí mà hàm số hoặc lý thuyết vật lý không còn xác định được, chẳng hạn như tâm của hố đen. Chưa có hệ thống AI nào tự cải thiện trí thông minh mà không có sự chỉ dẫn của con người, vì vậy điểm kỳ dị vẫn chỉ là giả thuyết; tuy nhiên, giả thuyết này định hình cách các nhà nghiên cứu và nhà hoạch định chính sách suy nghĩ về trí tuệ nhân tạo tổng quát (AGI) và an toàn AI.

Nguồn gốc ý tưởng#

• John von Neumann (thập niên 1950): Nhà toán học Stanislaw Ulam nhớ lại một cuộc trò chuyện trong đó von Neumann mô tả tiến bộ công nghệ tăng tốc như đang tiến tới “một điểm kỳ dị cốt yếu nào đó trong lịch sử nhân loại, vượt qua điểm đó thì các vấn đề của con người như ta biết không thể tiếp diễn.”
• I. J. Good (1965): Trong bài “Speculations Concerning the First Ultraintelligent Machine”, nhà thống kê học mô tả một “bùng nổ trí tuệ”, trong đó một cỗ máy thông minh hơn bất kỳ con người nào thiết kế ra những cỗ máy còn tốt hơn, khiến cỗ máy đầu tiên như vậy trở thành “phát minh cuối cùng mà con người cần phải tạo ra.”
• Vernor Vinge (1993): Nhà toán học kiêm tác giả khoa học viễn tưởng đã phổ biến thuật ngữ này trong bài “The Coming Technological Singularity”, viết cho một hội thảo chuyên đề của NASA, mở đầu bằng câu: “Trong vòng ba mươi năm nữa, chúng ta sẽ có phương tiện công nghệ để tạo ra trí tuệ siêu phàm.”
• Ray Kurzweil (2005): Cuốn sách The Singularity Is Near của nhà tương lai học ngoại suy các xu hướng tăng trưởng theo hàm mũ trong lĩnh vực điện toán để dự đoán điểm kỳ dị sẽ xảy ra vào năm 2045; phần tiếp theo năm 2024, The Singularity Is Nearer, vẫn giữ mốc đó cùng với mốc năm 2029 cho AI đạt cấp độ con người.

Bùng nổ trí tuệ sẽ diễn ra như thế nào#

Cơ chế đứng sau giả thuyết này là tự cải thiện đệ quy. Ngày nay, các kỹ sư xây dựng kiến trúc mạng nơ-ron, tuyển chọn dữ liệu huấn luyện và viết mã huấn luyện. Một hệ thống có thể tự thực hiện công việc nghiên cứu đó sẽ tạo ra một thế hệ kế nhiệm có năng lực cao hơn; thế hệ này sẽ nghiên cứu tốt hơn và nhanh hơn, cứ thế tiếp diễn. Vòng lặp này tăng tốc hay chững lại phụ thuộc vào hiệu quả của mỗi chu kỳ: nếu mỗi lần tăng năng lực giúp tốc độ nghiên cứu tăng nhiều hơn nữa, tăng trưởng sẽ mất kiểm soát; còn nếu năng lực tính toán, dữ liệu, năng lượng hoặc thí nghiệm trong thế giới thực trở thành nút thắt, tăng trưởng sẽ chậm lại rồi đi ngang.

Các nhà nghiên cứu mô tả tốc độ chuyển đổi bằng thuật ngữ takeoff. Takeoff nhanh, hay mạnh, sẽ đưa AI từ cấp độ con người lên mức siêu phàm vượt trội chỉ trong vài giờ hoặc vài ngày, không còn thời gian để sửa sai; takeoff chậm, hay mềm, sẽ diễn ra trong nhiều năm hoặc nhiều thập kỷ. Các quy luật mở rộng quy mô được quan sát trong học sâu mô tả mức cải thiện ổn định theo quy luật lũy thừa khi tăng năng lực tính toán, dữ liệu và tham số, vì vậy tiến bộ chỉ từ việc mở rộng quy mô bám theo tốc độ phát triển của phần cứng và đầu tư.

Điểm kỳ dị, AGI và siêu trí tuệ#

• AGI: Một cấp độ năng lực: hệ thống đạt mức ngang con người trong hầu hết mọi tác vụ nhận thức. AGI có thể tồn tại mà không dẫn tới điểm kỳ dị nếu quá trình tự cải thiện diễn ra chậm hoặc bị giới hạn.
• Trí tuệ nhân tạo siêu trí tuệ (ASI): Một cấp độ năng lực vượt trên AGI. Nhà triết học Nick Bostrom định nghĩa siêu trí tuệ là trí tuệ vượt xa năng lực nhận thức của con người trong hầu hết mọi lĩnh vực đáng quan tâm.
• Điểm kỳ dị: Một sự kiện đánh dấu quá trình AI tự cải thiện chuyển từ cấp độ AGI sang siêu trí tuệ, khiến khả năng dự báo của con người không còn hiệu quả.

Việc giữ cho các hệ thống thông minh hơn những người giám sát chúng luôn phù hợp với mục tiêu của con người là vấn đề nghiên cứu được gọi là siêu căn chỉnh.

Tiền đề trong AI ngày nay#

AI đã tự động hóa một số khâu hẹp trong quá trình phát triển chính nó. Học máy tự động (AutoML) và tìm kiếm kiến trúc mạng (NAS) tìm kiếm các thiết kế model mà trước đây con người phải lựa chọn thủ công. Tinh chỉnh siêu tham số trong Ultralytics YOLO là phiên bản quy mô nhỏ của cùng ý tưởng này: một thuật toán di truyền biến đổi các thiết lập huấn luyện như learning rate và cường độ tăng cường dữ liệu, huấn luyện lại model rồi giữ lại bộ thiết lập đạt điểm cao nhất. Ở quy mô lớn hơn, tác tử lập trình AlphaEvolve của Google DeepMind đã tìm ra cách nhanh hơn để phân tách phép nhân ma trận, giúp tăng tốc một kernel quan trọng trong kiến trúc Gemini lên 23% và giảm 1% thời gian huấn luyện Gemini.

Phê bình và tranh luận#

Những người hoài nghi cho rằng trí tuệ không tăng trưởng giống như số lượng transistor trong bộ xử lý. Trong cuốn "Điểm kỳ dị chưa đến" (2011), đồng sáng lập Microsoft Paul Allen và Mark Greaves đề xuất "phanh độ phức tạp": mỗi bước tiến trong hiểu biết về nhận thức lại làm lộ ra nhiều độ phức tạp hơn, khiến tiến bộ chậm lại. Những người khác viện dẫn các giới hạn vật lý về chip và năng lượng, cũng như các nghiên cứu đòi hỏi thí nghiệm thực tế chậm chạp. Các nhà nghiên cứu xem xét nghiêm túc kịch bản này cho rằng cần giải quyết vấn đề căn chỉnh trước khi những hệ thống như vậy xuất hiện; vào tháng 5 năm 2023, hàng trăm nhà khoa học và lãnh đạo doanh nghiệp AI đã ký tuyên bố một câu rằng giảm thiểu nguy cơ tuyệt chủng do AI cần là ưu tiên toàn cầu, ngang hàng với đại dịch và chiến tranh hạt nhân. Dự báo của chính Vinge đặt ra một hạn chót: "Tôi sẽ ngạc nhiên nếu sự kiện này xảy ra trước năm 2005 hoặc sau năm 2030."