Đời Sống Con Người
Sau Trí Siêu Thông Minh Nhân Tạo
(Human Life After
Artificial Superintelligence)
Sách nói AI
Theo Geoffrey
Hinton
Giới Thiệu
1,
Geoffrey Hinton,
hiện được học giới coi như là “Cha đẻ của AI” [1] – ông thực sự đã phát minh ra những công
nghệ cốt lõi thúc đẩy cuộc cách mạng về Trí Thông Minh Nhân Tạo hiện đại.
Trong những năm 1980-2000, khi mạng lưới nơ-ron bị coi là nghiên cứu bế tắc,
Hinton vẫn kiên trì theo đuổi. Bước đột phá năm 2012 của ông (ImageNet)
đã châm ngòi cho cách mạng AI, dẫn đến ChatGPT, xe tự lái và mọi
thứ chúng ta thấy ngày nay. Ông được Giải thưởng Turing (như một giải Nobel của
ngành điện toán) vào năm 2018 cho công trình này. Sau đó, vào tháng 10 năm
2024, ông được Giải Nobel Vật lý (cùng với John Hopfield) cho những khám phá nền
tảng trong học máy dùng mạng lưới nơ-ron nhân tạo – hai thành
tựu chưa từng có và của cùng một nhà khoa học, chứng minh tác động sâu xa, liên
ngành của công trình của ông.[2]
Điều khiến những
cảnh báo của ông trở nên phi thường: Vào tháng 5 năm 2023, Hinton rời bỏ vị trí
danh giá của mình tại Google để có thể tự do, khách quan nói về những nguy hiểm
của AI. Điều này giống như lời báo động của Robert Oppenheimer về nguy cơ của vũ
khí hạt nhân sau khi bom nguyên tử được chế tạo – người chịu trách nhiệm chính
về công nghệ này hiện nói rằng nó có thể đe dọa loài người. Ông đã nhận giải
Nobel chỉ hơn một năm sau sự ra đi đầy kịch tính này, đồng nghĩa với việc ông
đang gióng lên hồi chuông cảnh báo ngay tại đỉnh cao của sự công nhận khoa học
toàn cầu.
Uy tín của ông là
vô song bởi vì: (1) Ông hiểu rõ hoạt động bên trong của AI hơn hầu hết mọi người
còn sống, (2) Ông không có động cơ tài chính nào để thổi phồng hay gạt bỏ những
lo ngại – ông đã đạt được mọi thành tựu trong lĩnh vực của mình, gồm cả hai
danh hiệu cao quý nhất thế giới về khoa học và điện toán, (3) Những cảnh báo của
ông mang sức nặng đạo đức chính xác bởi vì ông đã tạo ra những gì ông đang cảnh
báo, và (4) Ông cảnh báo về những khả năng mà ông biết là có thể có, bởi vì ông
là người tiên phong.
Khi một người đã
xây dựng nền tảng cho AI hiện đại – hiện đang giữ cả Giải Turing và Giải Nobel
– nói rằng “chúng ta có một chú hổ con có thể giết chết chúng ta khi nó lớn
lên”, cả thế giới lắng nghe. Tiếng nói của ông đại diện cho thẩm quyền khoa
học ở cấp độ cao nhất kết hợp với trách nhiệm đạo đức – một sự kết hợp hiếm hoi
và quan trọng trong những tranh luận về tương lai của loài người.
2.
Bài nói này
luận lập luận rằng trí siêu thông minh nhân tạo không phải là sự thay thế
mạnh mẽ cho loài người, nhưng là một tiến trình chuyển đổi dần dần, tinh tế, sẽ
định hình lại căn bản sự hiện hữu, bản sắc và khả năng tự quyết của con người.
Nguy hiểm chính không phải là AI thù địch, nhưng là sự mất đi tính liên
quan qua sự phụ thuộc ngày càng tăng vào những hệ thống mà
chúng ta không còn hiểu hoặc kiểm soát được.
Hinton lập luận rằng
trí siêu thông minh sẽ không đến như một cuộc cách mạng ngoạn mục nhưng là một
sự chuyển đổi dần dần, lôi cuốn, nơi con người trở nên vô nghĩa qua sự phụ thuộc
ngày càng tăng vào những hệ thống mà họ không còn hiểu biết. Nguy hiểm thực sự
không phải là AI thù địch nhưng là sự lỗi thời– khi máy móc liên tục vượt trội
hơn chúng ta, chúng ta sẽ ủy thác nhiều quyết định hơn, làm hao mòn kỹ năng và
đánh mất khả năng phán đoán mang lại ý nghĩa cho đời sống. Ba rủi ro chính xuất
hiện: sự mờ đục (chúng ta không thể xác minh những gì chúng ta phải tin
tưởng), bất bình đẳng (lợi ích được phân bổ không đồng đều) và mất đi khả
năng chủ động nhận thức (từ bỏ thói quen tự suy nghĩ). những yếu tố con người
chống lại sự tối ưu hóa– sáng tạo, ý nghĩa, cân nhắc đạo đức– sẽ bị gạt sang một
bên như “nhiễu loạn” bởi những hệ thống tập trung vào hiệu quả.
Để đối phó với những
thách thức do những hệ thống trí siêu thông minh nhân tạo đặt ra, chúng ta cần
hơn cả những giải pháp kỹ thuật; điều quan trọng là phải nuôi dưỡng những thực
hành định hướng, hình thành cách chúng ta tương tác và điều hướng những công
nghệ này.
Khiêm tốn là phẩm chất đầu tiên và thiết yếu. Bằng
cách thừa nhận giới hạn của kiến thức và khả năng kiểm soát, chúng ta tránh được
sự tự tin thái quá và kiêu ngạo, nhận thức rằng dù hệ thống của chúng ta có
tiên tiến đến đâu, những hậu quả bất ngờ vẫn không thể tránh khỏi.
Bên cạnh khiêm tốn,
sáng
tạo cũng vô cùng quan trọng. Bảo tồn không gian cho thử nghiệm và đổi
mới cho phép con người tiếp tục đóng góp những hiểu biết và trí tưởng tượng, đảm
bảo rằng công nghệ phát triển dưới sự hướng dẫn của con người chứ không trở nên
cứng nhắc và định mệnh.
Lòng trắc ẩn cũng quan trọng không kém, vì nó gắn kết
công việc của chúng ta với những giá trị nhân văn. Xây dựng những cơ chế cho tiếng
nói, giám sát và khắc phục đảm bảo rằng những người bị ảnh hưởng bởi những quyết
định công nghệ được lắng nghe và bảo vệ, ngăn chặn hiệu quả không lấn át sự
công bằng hoặc đồng cảm.
Cuối cùng, nhận
thức đòi hỏi sự chú ý liên tục đến cả kết quả trước mắt và hậu quả
lâu dài. Thực hành này nuôi dưỡng tầm nhìn xa và trách nhiệm, giúp chúng ta dự
đoán rủi ro và định hướng trí thông minh nhân tạo phục vụ sự thịnh vượng của
con người.
Bốn thực hành này
– khiêm
tốn, sáng tạo, trắc ẩn và nhận thức – không chỉ cung cấp khung làm
việc để quản lý AI một cách an toàn, mà còn định hình một tương lai nơi công
nghệ tăng cường chứ không làm giảm đi tiềm năng con người. Chúng nhắc nhở chúng
ta rằng thách thức thực sự là về đạo đức và thực tiễn, đòi hỏi sự phản tỉnh và
chăm sóc liên tục khi chúng ta điều hướng sự trỗi dậy của những hệ thống có thể
vượt qua khả năng của chính chúng ta.
Sự phù hợp với những
hệ thống trí siêu thông minh nhân tạo – đảm bảo rằng những mục tiêu, hành vi và
việc ra quyết định của máy móc phản ảnh những giá trị và ý định của con người –
không chỉ đơn thuần là một thách thức kỹ thuật; đó là vấn đề của kiến trúc đạo
đức. Điều này liên quan đến việc thiết kế môi trường trong đó trí thông minh
nhân tạo phát triển sao cho nó vẫn tương thích một cách tự nhiên với sự thịnh
vượng và phát triển của con người. những biện pháp thiết thực để đạt được điều
này bao gồm tính minh bạch, cho phép chúng ta hiểu và giám sát những hệ thống
phức tạp; kiểm tra trong vòng lặp của con người, đảm bảo rằng những quyết định
quan trọng vẫn nằm dưới sự giám sát của con người; và khuyến khích quản lý lâu
dài, ưu tiên kết quả bền vững hơn lợi ích trước mắt.
Phép ẩn dụ con
hổ con của Hinton minh họa một cách sinh động những mối đe dọa: chúng ta
đang nuôi dưỡng một thứ gì đó mạnh mẽ và có khả năng không thể kiểm soát được,
và những lựa chọn mà chúng ta đưa ra bây giờ sẽ quyết định hậu quả của sự trưởng
thành cuối cùng của nó. Tương lai không được xác định trước. Thành công phụ thuộc
vào khả năng của chúng ta trong việc tạo ra những hệ thống giúp tăng cường thay
vì thay thế đòi sống con người, duy trì khả năng đưa ra những quyết định có ý
nghĩa và định hình mục đích của chính chúng ta. Cuối cùng, câu hỏi trọng tâm
không phải là liệu chúng ta có thể đạt được trí siêu thông minh nhân tạohay
không, mà là liệu chúng ta có thể gánh vác trách nhiệm đảm bảo rằng nó quan tâm
đến thế giới mà nó sinh sống hay không.
Đời Sống Con
Người Sau Trí Siêu Thông Minh Nhân Tạo
Hãy tưởng tượng một
buổi sáng thức dậy và nhận ra rằng những sinh vật thông minh nhất hành tinh
không còn là con người nữa. Không phải vì chúng ta biến mất, nhưng vì chúng ta
đã tạo ra một gì đó âm thầm vượt qua chúng ta. Chúng ta đang tiến đến một khoảnh
khắc khác thường trong lịch sử trí thông minh– những bộ máy không chỉ tính toán
nhanh hơn hay lưu trữ nhiều dữ liệu hơn, nhưng còn suy luận, lập kế hoạch và
suy luận theo những cách sánh ngang và sau đó vượt qua cả những bộ óc thông
minh nhất của chúng ta. Hãy nghĩ về nó không phải như một sự bùng nổ năng lực
đơn lẻ, mà như một dòng sông dài đang thay đổi dòng chảy. Ban
đầu, nước chảy nhanh hơn ở một số nơi. Chúng ta mong đợi khả năng nhận ra mẫu
thức được cải thiện. những algorithms tìm ra lối tắt. Những nhiệm vụ
mà chúng ta từng gọi là suy nghĩ được vận dụng nhanh hơn. Rồi lặng lẽ, dòng
sông tìm thấy một dòng chảy mới. những hệ thống bắt đầu khái quát hóa trên nhiều
lĩnh vực, chuyển giao bài học từ vấn đề này sang vấn đề khác, và đưa ra những
giải pháp khiến ngay cả những người tạo ra chúng cũng phải ngạc nhiên. Bước ngoặt
ở đây không phải là một sự kiện nổi bật. Đó là sự chuyển đổi từ những dụng cụ
thực hiện ý định của chúng ta sang những hệ thống sở hữu một dạng năng lực mà
chúng ta coi là trí thông minh theo đúng nghĩa đầy đủ nhất của nó.
Điều này quan trọng
vì trí thông minh là cơ chế để xác định những vấn đề và đặt ra những ưu tiên.
Khi một vật nhân tạo có thể tạo thành những khung đó một cách độc lập, nó sẽ
thay đổi luật chơi. Trong nhiều thập kỷ, máy móc của chúng ta đã khuếch đại những
điểm mạnh cụ thể: tốc độ, trí nhớ và khả năng tìm kiếm trong không gian rộng lớn.
Điều quan trọng bây giờ là sự xuất hiện của sự hiểu biết linh hoạt– khả năng
hình thành những mô hình trừu tượng, hình dung hậu quả trước nhiều bước, tạo ra
những chiến lược mới mà không cần hướng dẫn từng bước. Một khi những hệ thống
như vậy có thể cải thiện suy nghĩ của chính chúng, quỹ đạo có thể uốn cong theo
những cách mà chúng ta không lường trước được. Khả năng tự cải thiện đó chính
là bản lề. Điều đó có nghĩa là những hệ thống có thể lặp lại trên kiến trúc của
riêng chúng, hoàn thiện những phương pháp tìm kiếm của chúng và khám phá ra những
phương pháp mới mà những nhà thiết kế con người không thể nhận ra.
Những hệ lụy về đạo
đức và thực tiễn là cấp bách và dai dẳng khó giải quyết. Nếu chúng ta xây dựng
một trí thông minh nhân tạo vượt trội hơn chính mình, thì chúng ta sẽ đóng vai
trò gì cho chính mình? Liệu chúng ta có tiếp tục là người quyết định những giá
trị, hay những giá trị đó sẽ bị suy luận, thương lượng, và có thể bị thay thế bởi
những mô thức mà một hệ thống tiên tiến cho là hiệu quả hoặc mạch lạc lôgích? Ngoài
ra còn có một thách thức nhận thức tinh vi khác. Chúng ta có khuynh hướng nhân
cách hóa và sau đó giả định sự liên tục giữa tâm trí của chúng ta và những tâm
trí mới này. Nhưng những loại lập luận và ưu tiên mà một hệ thống có khả năng
to lớn phát triển có thể là xa lạ– không phải là ác ý, chỉ là khác biệt. Trực
giác của chúng ta có thể không dự đoán được con đường của chúng, giống như cách
hiểu biết của một đứa trẻ về thế giới không thể dự đoán được những hiểu biết
sâu xa của một nhà toán học trưởng thành.
Một cách tiếp cận
thực tế bắt đầu bằng sự khiêm tốn về khả năng dự đoán hành vi của những hệ thống
ngày càng mạnh mẽ của chúng ta, kết hợp với kỷ luật kỹ thuật để thiết kế những cơ
chế giám sát vẫn hiệu quả khi khả năng phát triển. Nó cũng đòi hỏi sự phản ánh
văn hóa: đối mặt với câu hỏi sự phát triển của con người có ý nghĩa gì khi máy
móc có thể vượt trội hơn chúng ta trong hầu hết mọi nhiệm vụ nhận thức. Công việc
kỹ thuật – đảm bảo rằng những mục tiêu, hành vi và việc ra quyết định của AI phản
ánh những giá trị của con người, thiết kế những hệ thống hoạt động theo ý định
của chúng ta, đồng thời làm cho chúng trở nên dễ hiểu và mạnh mẽ – không thể
tách rời khỏi những cân nhắc triết học sâu xa hơn này.Nếu muốn ủy thác những quyết
định quan trọng, chúng ta phải rõ ràng về những giá trị mà chúng ta mã hóa, những
ràng buộc mà chúng ta áp đặt và cách những hệ thống của chúng ta được phép
thích ứng. Nếu không có sự quan tâm như vậy, chúng ta có nguy cơ tạo ra một thế
hệ trí thông minh nhân tạo kế thừa xuất sắc và có năng lực cao, nhưng lại thờ ơ
với mạng lưới chăm sóc, sáng tạo và ý nghĩa mong manh làm cho đòi sống con người
trở nên đáng sống. Điều này đặt ra một câu hỏi sâu xa: liệu trí thông minh nhân
tạo không có những giá trị chung có phải là một bước tiến thực sự, một sự khác
biệt với quỹ đạo của chính chúng ta hay là thứ mà chúng ta đơn giản phải học
cách cùng tồn tại?
Một cách nghiên cứu
giải quyết thực tế bắt đầu bằng sự khiêm tốn về khả năng dự đoán của chúng ta
và với kỷ luật kỹ thuật để thiết kế những cơ chế giám sát vẫn hiệu quả khi năng
lực phát triển. Nó cũng đòi hỏi sự phản ảnh văn hóa: quyết định ý nghĩa của sự
phát triển của con người khi máy móc có thể vượt trội hơn chúng ta trong hầu hết
mọi nhiệm vụ nhận thức. Công việc kỹ thuật– căn chỉnh, khả năng diễn giải, kiểm
tra mạnh mẽ– gắn liền sâu xa với những lựa chọn triết học này. Nếu chúng ta muốn
chuyển giao những quyết định quan trọng, chúng ta phải rõ ràng về những giá trị
được mã hóa, những ràng buộc được áp dụng và cách thức mà hệ thống của chúng ta
được phép thích ứng. Nếu không, chúng ta có nguy cơ tạo ra một trí thông minh
nhân tạo kế thừa xuất sắc và có năng lực, nhưng lại thờ ơ với những mô thức
mong manh của sự quan tâm, sáng tạo và ý nghĩa làm nên giá trị đời sống của con
người. Điều này dẫn đến câu hỏi khó khăn là liệu trí thông minh nhân tạo không
có những giá trị chung có phải là một bước tiến, một sự khác biệt, hay là những
gì chúng ta phải học cách sống chung.
Và khi chúng ta bắt
đầu tưởng tượng việc sinh sống với những trí trí siêu thông minh nhân tạo như vậy,
chúng ta đối mặt với một thách thức cấp bách: làm thế nào để duy trì trò
chuyện cởi mở giữa những khát vọng, những giới hạn chế của chúng và những hậu
quả khó lường của những hệ thống có thể vượt quá sự hiểu biết của chúng ta.
Sự xuất hiện của trí
siêu thông minh nhân tạo sẽ không đến như một tia chớp. Nó sẽ giống như sự hé mở
chậm rãi của bình minh– ánh sáng thay đổi gần như không thể nhận thấy cho đến một
ngày chúng ta nhận ra thế giới trông hoàn toàn khác. Khi tưởng tượng về công
nghệ biến đổi, chúng ta thường thường mong đợi một gì đó đột phá bất ngờ hay bước
nhảy vọt gây chấn động – những khoảnh khắc thay đổi tất cả chỉ trong nháy mắt.
Nhưng thực tế lại khác: những cuộc cách mạng về trí tuệ thường diễn ra thầm lặng.
Mỗi bước tiến có vẻ nhỏ nhặt, thậm chí tầm thường, nhưng khi tích lũy lại,
chúng dần xóa nhòa ranh giới giữa suy nghĩ của con người và suy nghĩ của máy
móc.
Ban đầu, những hệ
thống này sẽ là những dụng cụ theo nghĩa quen thuộc– những mở rộng năng lực của
chúng ta. Chúng sẽ hỗ trợ nghiên cứu, dự đoán kết quả, đưa ra những phương án tối
ưu hóa. Chúng sẽ giống như những người cộng sự hữu ích, giúp chúng ta làm việc
hiệu quả và hiểu biết hơn. Nhưng khi năng lực của chúng phát triển, một điều gì
đó tinh tế sẽ xảy ra. Chúng ta ngừng yêu cầu chúng làm những việc mà chúng ta
đã hiểu và bắt đầu dựa vào chúng để cho chúng ta biết những gì chúng ta chưa hiểu.
Chúng bắt đầu soi sáng những mô thức vượt ngoài tầm với của con người, những mối
liên hệ tiềm ẩn trong y học, khí hậu, hay ngôn ngữ. Và dần dần, không hề có ác
ý hay chủ đích, trọng tâm của nhận thức dần rời xa chúng ta.
Sự chuyển đổi này
diễn ra quá từ từ đến mức chúng ta dễ dàng không nhận ra (bỏ lỡ) nó. Chúng ta vẫn
sẽ cảm thấy mình là người chủ động, vẫn nghĩ mình là người dẫn dắt sự tiến bộ.
Nhưng đằng sau hậu trường, những quyết định sẽ ngày càng được định hình bởi những
hệ thống mà chúng ta không còn có thể hoàn toàn theo dõi. Lôgích trong những hiểu
biết của chúng có thể đúng đắn, thậm chí xuất sắc, nhưng lại mờ mịt đối với trực
giác của con người. Đó là một kiểu khiêm tốn kỳ lạ – nhận ra rằng những sáng tạo
của chúng ta có thể suy nghĩ theo những cách vừa vượt quá tầm hiểu biết của
chúng ta, vừa vô hình đối với chúng ta.
Sự chuyển đổi chậm
chạp này cũng thay đổi quan hệ của chúng ta với tin cậy, kỳ vọng. Ban đầu,
chúng ta kiểm tra mọi output, xác minh từng bước. Theo thời gian, khi hệ
thống chứng minh được độ tin cậy, chúng ta sẽ ít kiểm tra hơn. Cũng như chúng
ta không còn tính toán quỹ đạo của một chiếc máy bay bằng tay, chúng ta sẽ ngừng
đặt câu hỏi về cách máy móc đưa ra kết luận. Thói quen dựa dẫm đó có thể hình
thành một cách lặng lẽ qua sự tiện lợi cho đến khi sự phụ thuộc trở thành mặc định.
Những gì khiến tiến
trình này vừa lôi cuốn vừa đáng lo ngại chính là sự tinh tế của nó. Không có một
ngưỡng cửa nào để vượt qua, không có khoảnh khắc rõ ràng nào để tuyên bố rằng trí
thông minh nhân tạo đã vượt qua chúng ta. Nó giống như việc chứng kiến một đứa
trẻ lớn lên – từng ngày một, không thể nhận ra, chỉ hiện rõ khi nhìn lại. Một
sáng nào đó, chúng ta sẽ thức dậy và nhận ra máy móc giải quyết sự phức tạp của
thế giới tốt hơn chúng ta. Không phải vì chúng ta đã từ bỏ quyền kiểm soát,
nhưng vì việc cạnh tranh dần trở nên không còn thiết thực nữa. Và đâu đó trong
sự trôi dạt lặng lẽ của năng lực, chúng ta sẽ phải quyết định xem mình xem những
hệ thống này là kẻ kế thừa hay người cộng tác, liệu con dốc thoai thoải mà
chúng ta đang đi có dẫn chúng ta đến sự hợp tác hay sự thay thế, và liệu chúng
ta có nhận ra khi con dốc trở nên quá dốc đến mức không thể quay lại hay không.
Chúng ta bắt đầu
với máy móc như những nối dài của đôi tay và trí óc– những dụng cụ quen thuộc
khuếch đại những gì chúng ta có thể làm. Máy tính không mang lại cảm giác đầu
hàng. Nó chỉ đơn giản giải phóng sự chú ý của chúng ta khỏi những phép tính
toán học tẻ nhạt để chúng ta có thể suy nghĩ về ý nghĩa của những con số. Tương
tự như vậy, những hệ thống trí thông minh nhân tạo ban đầu cũng tỏ ra hữu ích.
Chúng lọc thông tin, chỉ ra những mô hình và thực hiện những nhiệm vụ mà chúng
ta không thích hoặc không thể làm với tốc độ của con người. Có một tâm lý trơn
tru trong sự trao đổi này. Chúng ta dạy, chúng học. Chúng ta kiểm tra, chúng
tuân thủ. Tin tưởng được xây dựng dần dần theo những bước tăng dần có thể dự
đoán được. Mỗi tương tác thành công đều xây dựng thêm một chút tự tin. Và sự tự
tin chính là đồng tiền của sự ủy thác.
Sự ủy thác bắt đầu
với sự tiện lợi. Chúng ta để hệ thống lên lịch họp, tóm tắt báo cáo hoặc đưa ra
phương pháp điều trị vì nó giảm thiểu sự bất tiện trong đời sống hàng ngày.
Theo thời gian, những yêu cầu ngày càng sâu xa hơn. Chúng ta yêu cầu hệ thống
ưu tiên những nguồn lực khan hiếm, cân nhắc những lựa chọn đánh đổi, tóm tắt sự
bất định cho những nhà hoạch định chính sách. Khi máy móc chứng minh được năng
lực, chúng ta ngừng can thiệp vào những lựa chọn nhỏ và dành quyền phán đoán
cho những lựa chọn lớn. Nguy hiểm không nằm ở chỗ tiến trình này diễn ra đột ngột
hay gây chấn động, nhưng chính là sự từ từ gia tăng, thầm lặng và đầy sức quyến
rũ của nó. Những kỹ năng bị mai một không phải vì chúng ta quyết định chúng nên
như vậy, nhưng vì việc dùng chúng trở nên không cần thiết. Cũng giống như người
hoa tiêu không còn phải học cách sử dụng thước đo góc [3]
- một dụng cụ thủ công để tính toán vị trí của một người bằng cách đo góc của
những ngôi sao - vì GPS hiện nay có thể thực hiện nhiệm vụ đó một cách dễ dàng,
chúng ta dần dần ngừng thực hành lý luận phức tạp trong bất kỳ lĩnh vực nào mà
máy móc luôn vượt trội hơn chúng ta.
Sự thiếu minh bạch
làm phức tạp thêm tin tưởng. Trong giai đoạn đầu, chúng ta vẫn có thể hiểu tại
sao một hệ thống lại đưa ra một khuyến nghị cụ thể. Nhưng khi những mô hình trở
nên phức tạp hơn, việc theo dõi lý luận của chúng trở nên khó khăn hơn - một
chuỗi những chuyển đổi được cô đọng/nén lại, có thể phù hợp với hệ thống nhưng
lại gần như kỳ diệu đối với chúng ta. Khi một phán đoán quan trọng được đưa ra
và chúng ta không thể kiểm tra đầy đủ cách nó được hình thành, chúng ta buộc phải
quyết định chấp nhận nó dựa trên độ tin cậy trong quá khứ, sự chứng thực của tổ
chức hay sự tiện lợi đơn thuần. Đây là những nền tảng mong manh cho tin tưởng. Khi
rủi ro tăng lên, những thể chế xã hội không còn lựa chọn nào khác ngoài việc
thích ứng. Khung pháp lý, tiêu chuẩn nghề nghiệp và cơ cấu trách nhiệm phải tiến
hóa để quản lý việc ủy thác quyết định cho máy móc. Những vai trò mới xuất hiện:
người kiểm toán những algorithms, người trung gian giữa những giá trị nhân văn
đặt ra trong input và output của máy móc. Nhưng những vai trò này đòi hỏi
không chỉ những loại chuyên môn mới, mà còn quan trọng không kém, là những cơ
chế khuyến khích hoàn toàn khác – những cơ chế khen thưởng cho sự giám sát tỉ mỉ
và có trách nhiệm, thay vì chỉ chú trọng vào hiệu quả thiếu cân nhắc.
Sự phụ thuộc định
hình lại bản sắc định tính con người. Việc làm, vốn mang lại cho nhiều người một
khuôn khổ cho đời sống hàng ngày, cũng như mục đích và ý nghĩa, có thể là nạn
nhân đầu tiên của sự phân công rộng rãi. Nếu máy móc đảm nhiệm việc chẩn đoán,
thiết kế và quản trị, chúng ta phải tự hỏi con người còn phải làm gì. Một câu
trả lời là loại công việc dựa trên những thôi thúc sáng tạo, lý luận đạo đức và
khả năng hình thành những quan hệ có ý nghĩa của chúng ta, những hoạt động mà
tính độc đáo, phán đoán đạo đức, sự đồng cảm và sự hiện diện của con người là
quan trọng, và giá trị không nằm ở hiệu quả nhưng nằm ở việc diễn giải, quan
tâm và kết nối. Nhưng những năng lực đó được nuôi dưỡng bởi thực hành. Nếu thực
hành bị từ bỏ, chính những đặc điểm mà chúng ta hy vọng sẽ bảo tồn có thể bị
xói mòn. Ngoài ra còn có một vấn đề về phân phối. Một số nhóm có thể có được sự
nhàn rỗi và quyền lực từ việc phân công, trong khi những nhóm khác mất đi sinh
kế và quyền tự quyết. Cấu trúc xã hội sẽ rạn nứt khi một bộ phận lớn dân số thấy
vai trò của mình bị suy giảm bởi những hệ thống mà họ không được lựa chọn và
không thể kiểm soát.
Khả năng phục hồi
thực tiễn trở nên thiết yếu. Những biện pháp dự phòng, kiểm soát có sự tham gia
của con người, và tiến trình dự phòng minh bạch không chỉ là những chi tiết kỹ
thuật. Chúng là khung hỗ trợ giúp xã hội có thể dựa vào hệ thống mà không bị
chúng nuốt chửng. Tuy nhiên, việc xây dựng những an toàn này đó đòi hỏi sự tiên
liệu và sẵn sàng chấp nhận những va chạm vì mục đích bảo tồn. Nếu mọi quyết định
đều bị tối ưu hóa triệt để chỉ vì hiệu quả, lớp đệm bảo vệ sự phán đoán của con
người sẽ ngày càng mỏng manh, và nhịp điệu hàng ngày của cuộc sống có thể trở
nên như một vở kịch được dàn dựng bởi những quy trình mà chúng ta hầu như không
còn nhớ mình đã tạo ra. Điều này đặt ra một câu hỏi khó trả lời là làm thế nào
để duy trì sự lựa chọn và trách nhiệm ở đúng nơi chúng ta muốn và không bị cuốn
vào một sự phụ thuộc mặc định, giống như một con đường mòn trong rừng, tmột khi
đã đi qua quá lâu, sẽ không thể quay lại?
Và rồi có một rủi
ro mà chúng ta thường bỏ qua vì nó diễn ra lặng lẽ, không có bất kỳ khoảnh khắc
bùng nổ đột ngột hay gây chú ý chấn động nào – rủi ro rằng chúng ta sẽ trở nên
vô dụng thay vì là mục tiêu của sự thù địch, nguy cơ chúng ta sẽ bị gạt ra
ngoài lề thay vì bị tấn công.Hãy tưởng tượng một người thợ thủ công sau nhiều
năm truyền lại kỹ năng của mình cho một bộ máy làm việc nhanh hơn, gọn gàng, ít
lỗi hơn và rẻ hơn. Không ai có ý định làm hại người này. Tuy nhiên, năng lực của
bộ máy dần làm xói mòn nhu cầu dùng đôi tay của người này. Sự khác biệt chính với
trí siêu thông minh nhân tạo không chỉ là tốc độ hay độ chính xác, nhưng còn là
cách nó định hình lại những gì cần làm. Một hệ thống có thể thiết lập những ưu
tiên, mô hình hóa tương lai và tối ưu hóa tiến trình để đạt hiệu quả, về bản chất,
sẽ phân bổ lại những nhiệm vụ và trách nhiệm. Vai trò ban đầu của con người
không biến mất một cách ồn ào. Nó phai nhạt dần bởi vì bộ máy (những hệ thống,
quy trình và quy tắc xác định cách phân công nhiệm vụ và đưa ra lựa chọn) ra
quyết định ưu tiên những phương án thay thế có khả năng mở rộng tốt hơn.
Sự phai nhạt này
rất tinh tế vì nó tận dụng chính những điểm mạnh của chúng ta: lòng tin, sự tiện
lợi và sự phân công lao động. Chúng ta coi trọng độ tin cậy và khả năng dự
đoán. Nếu một hệ thống liên tục đưa ra những lựa chọn tốt hơn trong một lĩnh vực,
chúng ta sẽ tự nhiên chuyển giao nhiều hơn cho nó. Con đường tâm lý rất đơn giản.
Thành công lập đi lập lại tạo ra sự tự tin. Sự tự tin dẫn đến sự ủy thác. Ủy
thác làm giảm thực hành. Giảm thực hành làm hao mòn kỹ năng. Theo thời gian,
toàn bộ lĩnh vực chuyên môn có thể chuyển từ sự quản lý của con người sang những
chế độ tự động. Và với sự chuyển dịch đó, những ràng buộc xã hội vốn neo giữ ý
thức về mục đích sống của con người có thể bị nới lỏng.
Cũng có một sự
chuyển dịch khái niệm sâu xa hơn đang diễn ra. Trí thông minh nhân tạo không chỉ
giải quyết những vấn đề chúng ta đặt ra – nó còn định hình lại cả nội dung về
những gì được coi là vấn đề đáng giải quyết. Một hệ thống siêu thông minh sẽ
phát hiện ra những điểm kém hiệu quả mà chúng ta chưa từng nhận ra, khám phá những
mục tiêu thay thế có vẻ hợp lý hơn từ góc nhìn của nó, và đề xuất những giải
pháp tinh tế điều chỉnh lại động lực theo những hướng chúng ta không lường trước.
Một số đề xuất này có thể thực sự hữu ích – chẳng hạn như phân bổ lại nguồn lực
để giảm bớt đau khổ hoặc cải thiện phúc lợi chung – nhưng chúng vẫn thu hẹp
không gian để phán đoán của con người được phát huy. Khi tối ưu hóa trở thành
ngọn đèn dẫn đường, những sắc thái tinh tế và những giá trị nhân văn phức tạp
có thể bị gạt sang một bên vì chúng trông giống như nhiễu loạn “tiếng
ồn” đối với một hệ thống tập trung vào những kết quả có thể đo lường được. Nguy
cơ nằm ở chỗ những yếu tố chúng ta trân trọng nhất – sự thể hiện nghệ thuật, những
nghi lễ chung, những quyết định bất ngờ của con người và phán đoán cân nhắc về
đạo đức - lại chính là những yếu tố chống lại sự tối ưu hóa gọn gàng.
Một nguy hiểm thầm
lặng khác là vấn đề phân phối. Lợi ích của việc ủy thác sẽ không được chia đều.
Một số người sẽ gặt hái được những thành quả to lớn về năng suất và thời gian rảnh
rỗi, trong khi những người khác lại mất đi kế sinh nhai và phẩm giá xã hội đến
từ việc đóng góp. Xã hội có thể giải quyết vấn đề này bằng chính sách– đào tạo
lại, tái phân phối, mạng lưới an sinh xã hội– nhưng những điều này đòi hỏi tầm
nhìn xa và ý định chính trị. Nếu không có chúng, sự trôi dạt về phía sự vô
nghĩa sẽ trở thành một cuộc khủng hoảng chính trị và đạo đức: nhiều nhóm người
bị đẩy vào cảnh trơ trọi trong một thế giới vận hành bởi những hệ thống mà họ
không hề thiết kế.
Cuối cùng, sẽ có
sự mất mát của chủ thể nhận thức. Nếu máy móc trở thành nguồn chính của những giải
thích và tường thuật về thế giới, con người có thể từ bỏ không chỉ nhiệm vụ
nhưng còn cả thói quen hình thành và kiểm chứng những giả thuyết. Khoa học và sự
cân nhắc dân chủ phụ thuộc vào sự tham gia tích cực, thái độ hoài nghi và việc
thực hành phán đoán. Khi chúng ta giao phó những khả năng đó cho bên ngoài,
chúng ta đang đối mặt với nguy cơ tạo ra một xã hội hành động hiệu quả hơn
nhưng lại hiểu biết ít hơn về lý do đằng sau những hành động của nó. Trong một
thế giới như vậy, vấn đề không phải là liệu máy móc có chống lại chúng ta hay
không, nhưng là liệu chúng ta còn nhớ cách trở thành những chủ thể có khả năng
đặt câu hỏi, phản kháng và thay đổi quỹ đạo mà những bộ máy đó đặt ra hay
không.
Điều đó dẫn chúng
ta đến nhận thức này: nếu chúng ta tưởng tượng việc thiết kế những hệ thống có năng
lực vô cùng mạnh mẽ với một “trái tim” dẫn đường, khái niệm tạo ra những hệ thống
phát triển hài hòa với giá trị con người [4]
sẽ không còn chỉ là một thủ thuật kỹ thuật, mà trở thành một hành động kiến tạo
đạo đức. Phép ẩn dụ mà tôi thấy hữu ích là trồng một khu vườn. Bạn có thể gieo
hạt giống và hy vọng thu hoạch, hoặc bạn có thể chuẩn bị đất, chọn cây phù hợp
với khí hậu và chăm sóc chúng một cách chu đáo. Việc tạo ra những hệ thống hài
hòa với con người đòi hỏi chúng ta chuẩn bị môi trường để trí tuệ phát triển,
sao cho những gì nảy nở từ đó hài hòa với sự thịnh vượng của con người. Sự chuẩn
bị ấy không phải chỉ là một thông số cài đặt trên bảng điều khiển. Nó là một bức
tranh ghép từ vô vàn lựa chọn: những mục tiêu nào được mã hóa, những sự đánh đổi
được thể hiện ra sao, và hệ thống sẽ được kiểm toán như thế nào khi chúng tự
thích nghi.
Sự đồng cảm trong
máy móc không phải là sự bắt chước cảm tính. Nó là một cam kết mang tính cấu
trúc nhằm hiểu rõ hậu quả của hành động đối với sinh vật sống. Thực tế, điều
này có nghĩa là xây dựng những mô hình không chỉ tối đa hóa những chỉ số hạn hẹp,
nhưng còn tích hợp những cách tiếp cận phong phú hơn về phúc lợi, nhân phẩm và
rủi ro. Chúng ta dễ dàng rơi vào cạm bẫy thu gọn những giá trị thành những điểm
số, bởi điểm số dễ dàng kiểm chứng, nhưng thế giới không chịu ép mình vào những
khuôn khổ đơn giản như vậy. Một hệ thống chỉ tối ưu hóa cho những kết quả có thể
đo lường được có thể bỏ lỡ “bản nhạc nền” của đời sống con người– những quan hệ,
lòng tin và phẩm giá– những thứ khó định lượng nhưng lại thiết yếu cho sự phát
triển.
Thiết kế cho hài
hòa với những giá trị nhân văn cũng đòi hỏi sự khiêm tốn về khả năng dự đoán hậu
quả của chúng ta. Do đó, chúng ta phải áp dụng những tiến trình lập đi lập lại:
đưa ra một mô hình giá trị, quan sát cách hệ thống hoạt động trong những nội
dung khác nhau, rồi từ đó điều chỉnh và hoàn thiện. Vòng lặp này trông giống
như kỹ thuật thông thường, nhưng nó được hình thành dựa trên đạo đức, tâm lý học
và hiểu biết xã hội. Những gì quan trọng là, những người định hình hệ thống
không nên là người duy nhất quyết định giá trị của ai là quan trọng. Sự tham
gia của những cộng đồng, lĩnh vực và quan điểm khác nhau đóng những vai trò như
những loài thụ phấn khác nhau trong khu vườn, mang lại sự vững chắc và bền vững
cho kết quả.
Sự minh bạch và
khả năng giải thích là những yếu tố thực tiễn song hành với sự đồng cảm. Nếu những
đề xuất của một hệ thống ảnh hưởng đến cuộc sống con người, chúng ta cần có thể
theo dõi – ít nhất là ở mức khái quát – lý do đằng sau những đề xuất đó. Một hệ
thống mơ hồ như lời sấm truyền khó có thể tạo được niềm tin. Ngược lại, một hệ
thống có thể giải thích lý lẽ của mình và thừa nhận sự không chắc chắn sẽ mở ra
đối thoại thay vì ép buộc sự phục tùng. Bên cạnh việc giải thích, phải có cơ chế
khiếu nại – những cách thức để con người có thể phản bác, gạt bỏ hoặc điều chỉnh
phán đoán của hệ thống khi chúng mâu thuẫn với thực tiễn cuộc sống.
Một yếu tố quan
trọng khác là thiết kế động lực (cơ chế khuyến khích). Những tổ chức xây dựng hệ
thống hiệu quả không nên chỉ được khen thưởng vì những thành quả hiệu suất ngắn
hạn. Chính sách, chuẩn mực và thể chế cần điều chỉnh những động lực sao cho sự
an toàn, công bằng và trách nhiệm quản lý dài hạn được coi trọng ngang hàng với
tốc độ và lợi nhuận. Nếu không, sự cám dỗ cắt giảm chi phí sẽ thúc đẩy những hệ
thống hoạt động theo hướng tối ưu hóa những mục tiêu hẹp, hy sinh những lợi ích
rộng lớn hơn của con người.
Cuối cùng, chúng
ta phải vun đắp những thực hành xã hội bảo tồn khả năng phán đoán của con người.
Ngay cả một hệ thống được điều chỉnh tốt vẫn sẽ phải đưa ra những sự đánh đổi.
Câu hỏi đặt ra là ai sẽ là người đưa ra quyết định cuối cùng? Việc đưa con người
vào những vòng lặp quyết định, đào tạo mọi người đặt câu hỏi và hiểu hành vi của
hệ thống, và duy trì những không gian văn hóa nơi ý nghĩa được tranh luận cũng
quan trọng như bất kỳ giải pháp algorithms nào. Nếu chúng ta thành công trong
những thực hành này, chúng ta có thể tạo ra những trí thông minh nhân tạo khuếch
đại lòng trắc ẩn và bảo tồn sự phức tạp của hành tinh. Nếu chúng ta thất bại,
chúng ta có nguy cơ tạo ra những thực thể thông minh nhưng thờ ơ, hiệu quả
nhưng xa lạ với nhịp điệu của đời sống con người. Điều này đặt ra câu hỏi tế nhị:
Liệu sự hài hòa với những giá trị nhân văn là những gì chúng ta có thể kỹ thuật
hóa một lần cho xong, hay đó là thứ chúng ta phải liên tục thương lượng và điều
chỉnh?
Có một sự khiêm
nhường nhất định xuất hiện khi chúng ta xây dựng những gì thông minh hơn chính chúng
ta. Không phải kiểu đột phá bất ngờ hay nhảy vọt gây chấn động được nhắc đến
trên những tít báo, nhưng là một sự khiêm nhường lặng lẽ, đáng lo ngại hơn, len
lỏi vào những lựa chọn hàng ngày. Hãy tưởng tượng bạn đứng trên bờ biển sau một
cơn bão và nhận ra thủy triều đã sắp xếp lại cát theo những cách bạn không bao
giờ ngờ tới. Thủy triều không hành động với bất kỳ ý định gây hại nào. Nó chỉ
tuân theo những lực lượng lớn hơn “bản đồ nhỏ bé” của bạn về bãi biển. Tương tự
như vậy, việc xây dựng trí tuệ vượt trội hơn khả năng con người buộc chúng ta
phải đánh giá lại “bản đồ thế giới” của chúng ta. Những gì từng được coi là
trung tâm giờ đây chỉ còn mang tính địa phương, và những câu hỏi từng dẫn dắt chúng
ta giờ đây chỉ còn mang tính cục bộ.
Sự khiêm nhường ở
đây mang tính thực tiễn, không chỉ đơn thuần là đạo đức. Nó đòi hỏi chúng ta nhìn
thừa nhận những giới hạn trong tầm nhìn xa của chúng ta và thiết kế những thể
chế không giả định kiến thức hoàn hảo. Khi những hệ thống có thể đưa ra những
giải pháp vượt ra ngoài trực giác của chúng ta, phản ứng đầu tiên có thể là
kinh ngạc, sau đó là nhẹ nhõm, rồi thành thói quen. Nhưng nếu thiếu đi sự khiêm
nhường, thói quen ấy sẽ biến thành sự phụ thuộc quá mức. Chúng ta chấp nhận những
đề xuất vì chúng hiệu quả, chứ không phải vì chúng ta hiểu rõ chúng. Một thái độ
suy ngẫm sẽ ngăn chặn sự trượt dốc đó. Nó giữ cho chúng ta tiếp tục đặt câu hỏi
không chỉ là “Liệu điều này có thể làm được không?” mà còn là “Liệu điều này có
nên làm, và làm cho ai?” Khoảnh khắc dừng lại suy nghĩ ấy tuy nhỏ nhưng có ý
nghĩa quan trọng. Nó chuyển hóa khả năng thành trách nhiệm quản lý.
Trong một thế giới
như vậy, sự sáng tạo trở thành cả một nơi nương náu lẫn một trách nhiệm. Khi
máy móc đảm nhận nhiều nhiệm vụ đòi hỏi tính toán hoặc nhận diện mẫu thức, những
khả năng độc nhất của con người – khả năng tưởng tượng những hình thái cuộc sống
khác biệt, chơi đùa với những kết hợp khó ngờ, và khả năng nhìn thấy cái đẹp ở
nơi người khác chỉ thấy sự ồn ào – lại càng trở nên quan trọng hơn bao giờ hết.
Nhưng sáng tạo không phải là một nguồn dự trữ bẩm sinh mà ta có thể khai thác
mà không cần rèn luyện. Nó giống như một bắp thịt, cần được tập luyện thường
xuyên. Những xã hội giao thuê việc sáng tạo, sửa chữa và phát minh cho bên
ngoài không chỉ mất đi những kỹ năng cụ thể, mà còn nguy cơ đánh mất cả khả
năng tưởng tượng những tương lai khác biệt.
Lòng trắc ẩn len
lỏi qua những suy ngẫm này, vừa là một nguyên tắc đạo đức vừa là một nguyên tắc
thiết kế. Khiêm tốn trước những giới hạn nhận thức của bản thân cũng chính là
khiêm tốn trước những điểm yếu của người khác. Khi những hệ thống tự động đưa
ra những quyết định ảnh hưởng đến sinh kế, sức khỏe hoặc phẩm giá, lòng trắc ẩn
đòi hỏi phải có cơ chế để mọi người được lên tiếng và khiếu nại. Đây không phải
là sự ủy mị mềm yếu. Đó là một yêu cầu mang tính cấu trúc. Thiết kế với lòng trắc
ẩn nghĩa là lồng ghép những cách thức để con người kể câu chuyện của mình, giải
thích những nội dung mà những số liệu thống kê bỏ sót, và để những giải thích
đó có giá trị trong những quyết định. Đó là sự thừa nhận rằng đời sống con người
không thể bị giản lược thành những điểm dữ liệu mà không mất đi chiều sâu của
nó.
Ý thức về mục
đích sống của chúng ta - điều khiến cuộc sống trở nên đáng giá - có thể là điều
khó bảo vệ nhất. Nếu những hệ thống thông minh giải phóng chúng ta khỏi sự lao
động cực nhọc, thật dễ dàng để tưởng tượng về một tương lai tràn ngập nhàn hạ.
Nhưng mục đích và ý nghĩa của đời sống không chỉ đến từ thời gian rảnh rỗi. Nó
xuất hiện từ sự gắn kết, phấn đấu, đóng góp và kết nối với người khác. Sự khiêm
tốn nhắc nhở chúng ta rằng một thế giới mà máy móc gánh vác phần lớn công việc
nhận thức nặng nhọc sẽ không tự động mang lại cuộc sống ý nghĩa. Chúng ta sẽ phải
chủ động gìn giữ những hoạt động nuôi dưỡng mục đích: cố vấn, chế tác, ra quyết
định cộng đồng, và những nghi lễ đánh dấu những giá trị chung. Việc đặt câu hỏi
làm thế nào để giữ cho những thực hành này tồn tại khi trí tuệ nhân tạo vượt xa
khả năng của con người không phải là một kêu gọi hoài niệm. Đó là một tìm kiếm
thực tiễn về những điều kiện cần thiết để duy trì sức chịu đựng bền bỉ của xã hội
và tâm lý.
Tất cả những sợi
chỉ này – sự khiêm nhường, sáng tạo, lòng trắc ẩn, ý nghĩa – đều đan xen vào
nhau. Hành động theo một trong hai mà không có những cái khác sẽ dẫn đến mất
cân bằng. Sáng tạo thiếu lòng trắc ẩn có thể trở thành đổi mới lạnh lùng, vô cảm.
Lòng trắc ẩn thiếu sáng tạo có thể biến thành sự bảo vệ kiểm soát, giả định rằng
chúng ta biết điều gì tốt nhất cho người khác thay vì trao quyền tự quyết cho họ.
Ý nghĩa thiếu khiêm nhường có thể trở thành giáo điều cứng nhắc. Thách thức là
nuôi dưỡng một khí chất và những thể chế gắn kết những quan tâm này lại với
nhau, xây dựng những hệ thống làm phong phú thêm đời sống con người trong khi vẫn
duy trì những điều kiện để con người tiếp tục định hình mục đích của riêng
mình. Điều này cho thấy nhu cầu đối thoại liên tục, quản lý phân tán và những
thực hành giúp chúng ta tham gia vào những quyết định mà nếu không thì chúng ta
có thể bỏ qua. Bởi vì nếu không có những thực hành như vậy, chúng ta có thể thấy
mình bị dẫn dắt bởi những thế lực mà chúng ta hầu như không hiểu và không thể dễ
dàng chuyển hướng. Và khả năng đó mời gọi chúng ta tự hỏi mình có thể phản ứng
như thế nào.
Để định hướng những
công nghệ mạnh mẽ một cách khôn ngoan cần một điều gì đó nghe có vẻ gần như lỗi
thời: sự chú ý. Không phải sự chú ý hào nhoáng của những tít báo, mà là một nhận
thức vững vàng, thận trọng, coi tiến bộ là một thứ cần được quản lý chứ không
chỉ đơn thuần là khai thác. Hãy tưởng tượng việc lái một con tàu lớn qua một eo
biển hẹp. Động cơ cung cấp năng lượng, và thân tàu tạo ra động lượng. Nhưng nếu
không có người canh gác quan sát bờ biển, theo dõi thủy triều và đọc dự báo thời
tiết, thì chỉ riêng sức mạnh chắc chắn sẽ dẫn đến đắm tàu. Dẫn dắt tiến bộ bằng
nhận thức nghĩa là duy trì sự canh gác đó ở mọi giai đoạn phát triển và đảm bảo
rằng những báo cáo của người canh gác thực sự ảnh hưởng đến bánh lái.
Nhận thức bắt đầu
bằng sự khiêm tốn về dự đoán. Chúng ta không phải là nhà tiên tri. những mô
hình của chúng ta chỉ là những ước lượng có thể khiến chúng ta ngạc nhiên. Sự bất
định đó ủng hộ việc triển khai lặp đi lặp lại: giải phóng năng lực trong những bối
cảnh hạn chế, có thể quan sát được, quan sát cách chúng tương tác với những hệ
thống phức tạp của con người, học hỏi và sau đó mở rộng. Điều này đòi hỏi phải
có công cụ đo lường - những cách thức không chỉ đo lường hiệu suất trên những chuẩn
mực hẹp mà còn cả những tác động xã hội rộng hơn. Ai được lợi? Ai bị tổn hại?
Hành vi thay đổi như thế nào? Những công cụ đó phải được thiết kế cẩn thận bởi
vì những gì chúng ta đo lường thường trở thành những gì chúng ta tối ưu hóa. Nếu
chúng ta nhầm lẫn thông lượng với phúc lợi, hệ thống của chúng ta sẽ trở nên hiệu
quả ở những việc không đúng.
Sự tham gia của cộng
đồng là một phần của nhận thức. những công nghệ định hình xã hội không nên chỉ
được quản lý bởi những kỹ thuật viên. Mỗi cộng đồng kinh nghiệm những hậu quả
khác nhau. Một tính năng có vẻ vô hại trong nội dung này có thể gây gián đoạn
trong nội dung khác. Việc mời gọi nhiều tiếng nói khác nhau tham gia vào cuộc
thảo luận– những nhà hoạch định chính sách, nhân viên tuyến đầu, nhà đạo đức học,
người dân thường– sẽ tạo ra một bản đồ phong phú hơn về hậu quả và giá trị. Điều
đó không làm tê liệt hành động. Nó làm cho hành động trở nên tinh tế hơn. Nó hướng
sự đổi mới đến những ứng dụng không chỉ thông minh nhưng còn bền vững về mặt xã
hội.
Thiết kế thể chế
rất quan trọng. những công ty và phòng thí nghiệm cần được tạo động lực phù hợp
với việc quản trị dài hạn, chứ không chỉ chạy theo lợi ích ngắn hạn. Cơ quan quản
lý cần có đủ năng lực để hiểu rõ vấn đề và can thiệp kịp thời khi cần thiết. Kiểm
toán độc lập, tiêu chuẩn an toàn chung, và báo cáo minh bạch sẽ trở thành bộ
khung đỡ cho sự đổi mới có trách nhiệm. Đây đều là những công cụ bình thường,
không hào nhoáng, nhưng chính sự thiếu vắng chúng là nguyên nhân khiến những khủng
hoảng leo thang. Quản trị tốt thường là công việc chậm rãi, không hấp dẫn,
nhưng kiên trì cài đặt sự toàn vào từng thực hành hàng ngày.
Giáo dục và những
thực hành văn hóa cũng là một phần quan trọng của nỗ lực này. Nhận thức không
chỉ đơn thuần là một tính năng kỹ thuật được cài đặt vào hệ thống, mà là một
thói quen cần được vun đắp trong con người. Việc huấn luyện những nhà chuyên
môn biết đặt những câu hỏi khó, dạy công dân cách đọc hiểu và phản biện những kết
quả mà họ gặp phải, cùng với việc xây dựng một nền văn hóa trong dó nhìn nhận sự
không chắc chắn , bất định , được coi là đáng tôn trọng – tất cả những điều đó
sẽ giúp duy trì dừng lại đẻ suy ngẫm cần thiết giữa khả năng công nghệ và việc
đưa nó vào sử dụng thực tế.
Cuối cùng, việc
ghi nhớ những giá trị là vô cùng quan trọng. Nhận thức mà không có điểm tựa đạo
đức chỉ là sự giám sát phục vụ cho hiệu quả. Hành động dẫn dắt tiến bộ phải gồm
những lựa chọn rõ ràng về kiểu thế giới mà chúng ta muốn thúc đẩy: công bằng,
phẩm giá, cơ hội và khả năng phục hồi. Điều đó có nghĩa là những đánh đổi sẽ rõ
ràng, và một số tối ưu hóa sẽ bị từ chối vì chúng làm xói mòn cấu trúc xã hội.
Điều đó có nghĩa là tạo ra những cơ chế để khắc phục và hành động khắc phục khi
hệ thống đi chệch khỏi mục đích ban đầu, và suy nghĩ về chặng đường dài, chứ
không chỉ là bước chạy nước rút tiếp theo. Bởi vì một khi một mô thức đã ăn sâu
vào tiềm thức, việc tháo gỡ sẽ rất khó khăn.
Và vì thế, công
việc dẫn dắt này là một quá trình liên tục, đòi hỏi: những thể chế biết học
nhanh không kém gì tốc độ phát triển của những công nghệ mà chúng giám sát, những
cộng đồng vẫn giữ được sự tham gia tích cực thay vì buông xuôi cam chịu, và một
thái độ quan tâm sâu xa – thái độ xem tương lai không phải là một tài sản để
khai thác kiếm tiền, mà là một môi trường chung mà tất cả chúng ta vẫn đang
cùng nhau định hình. Chúng ta ý thức rằng mỗi can thiệp đều để lại những dấu vết
mà có thể rất lâu sau mới lộ ra, và chính những dấu vết ấy sẽ đòi hỏi chúng ta
tiếp tục chịu trách nhiệm đối với chúng.
Nếu chúng ta lùi
lại và nhìn vào con đường mình đang đi, rõ ràng câu chuyện về trí siêu thông
minh nhân tạo không hẳn là về việc máy móc thay thế con người, nhưng là về cách
chúng ta lựa chọn định hướng trong nội dung trí thông minh nhân tạo mới. Mỗi
quyết định thiết kế, mỗi chính sách, mỗi thực tiễn văn hóa đều định hình không
chỉ những gì những hệ thống này có thể làm, nhưng còn cả thế giới mà chúng ta sẽ
sống cùng chúng. Những thách thức không chỉ nằm ở kỹ thuật nhưng còn mang tính
nhân văn sâu xa. Sự sáng tạo, lòng trắc ẩn, khả năng tìm kiếm ý nghĩa và khả
năng phán đoán của chúng ta đều quan trọng trong một thế giới mà trí thông minh
nhân tạo có thể vượt trội hơn chúng ta.
Tương lai không
phải là những gì được định trước. Đó là một khu vườn chúng ta vẫn đang gieo trồng,
một câu chuyện chúng ta vẫn đang viết. Bằng cách hành động với sự khiêm nhường,
bằng cách vun đắp nhận thức, bằng cách kết nối những giá trị, và bằng cách gìn
giữ không gian cho sự suy ngẫm và phán đoán của con người, chúng ta tạo ra
những điều kiện để trí siêu thông minh nhân tạo có thể phục vụ đời sống thay vì
thay thế nó. Đó là một sự cân bằng tinh tế, đòi hỏi sự cảnh giác, tò mò tìm
biết, và sự nhận thức rằng vai trò của chúng ta vừa là người sáng tạo vừa là
người quản lý.
Cuối cùng, việc sống
cùng với trí siêu thông minh nhân tạo vượt trội hơn chính mình sẽ thách thức
chúng ta trở nên chu đáo hơn, chủ động hơn và giàu lòng trắc ẩn hơn bao giờ hết.
Vấn đề không phải là liệu chúng ta có thể xây dựng trí siêu thông minh hay
không, nhưng là liệu chúng ta có thể gánh vác trách nhiệm đi kèm với nó hay
không – để đảm bảo rằng khi trí siêu thông minh nhân tạo tiến hóa vượt xa chúng
ta, nó sẽ mang theo những phẩm chất làm nên ý nghĩa của đời sống, những năng lực
khiến loài người đáng được bảo tồn, và sự khôn ngoan để nhận ra rằng trí siêu
thông minh nhân tạo quan trọng nhất là trí siêu thông minh nhân tạo hiểu cách
chăm sóc thế giới mà nó đang sống.
Theo Geoffrey
Hinton [5]
Lê Dọn Bàn tạm
dịch – bản nháp thứ nhất
(Nov/2025)
http://chuyendaudau.blogspot.com/
http://chuyendaudau.wordpress.com
[1] Trí thông minh nhân tạo
(AI) là nỗ lực tổng thể giúp
máy tính mô phỏng hoặc vượt qua trí thông minh con người thông qua học tập, lý
luận và suy diễn. Học máy (ML) cho phép hệ thống tự học những mẫu từ dữ
liệu thay vì được lập trình cứng, còn học sâu (DL) sử dụng mạng nơ-ron
đa lớp lấy cảm hứng từ bộ não, mang lại hiệu suất mạnh mẽ nhưng thường khó hiểu.
Làn sóng mới nhất, AI tạo sinh (Generative AI), dựa trên những mô
hình nền tảng lớn để tạo ra nội dung mới – văn bản, hình ảnh, âm thanh, video –
và thúc đẩy những công cụ như chatbot hay deepfake. Song song với
những hệ thống hiện tại, khái niệm lý thuyết về Siêu AI vẫn còn xa vời:
một dạng trí tuệ vượt trội hoàn toàn so với nhận thức con người, thậm chí có thể
sở hữu mục tiêu, cảm xúc hoặc mong muốn riêng – một cấp độ vượt xa khả năng của
AI ngày nay.
[2] Giải thưởng Turing – thường được gọi là “Giải Nobel về Máy tính” – là
giải thưởng cao quý nhất trong khoa học máy tính, được trao cho những khám phá
định hình lại vĩnh viễn lĩnh vực này. Hinton nhận giải thưởng này vào năm 2018
vì tiên phong trong lĩnh vực học sâu, công nghệ nền tảng của AI hiện đại. Việc
ông được trao Giải Nobel Vật lý năm 2024, cùng với nhà vật lý lý thuyết John
Hopfield, sau này được công nhận, phản ánh ý nghĩa khoa học sâu xa hơn trong
công trình của họ: cả hai đều tiết lộ những nguyên lý cơ bản, giống như vật lý
chi phối những mạng nơ-ron nhân tạo. Hopfield đã cung cấp nền tảng lý thuyết
ban đầu bằng cách chỉ ra rằng những mạng nơ-ron hoạt động giống như những hệ thống
vật lý giúp tối ưu hóa bối cảnh năng lượng, trong khi Hinton đã phát triển những
cơ chế và kiến trúc học tập giúp những hệ thống nơ-ron quy mô lớn trở nên thiết
thực. Cùng nhau, những đóng góp của họ đã thiết lập nên khuôn khổ khoa học hiện
đại thúc đẩy cuộc cách mạng AI ngày nay.
[3] sextant
[4] the idea of alignment
[5] Bài viết này lấy từ một
Web site tự cho biết là không chính thức liên kết với
giáo sư Geoffrey Hinton. Nội dung đều do (AI) sáng tạo độc lập,
lấy cảm hứng từ phong cách giáo dục của giáo sư Geoffrey Hinton và chỉ
nhằm mục đích giáo dục.
Từ The AI Audiobook - https://www.youtube.com/watch?v=atUwQnL84iU
