(Dự án AI mới của Google
là không thể tin nổi)
theo Geoffrey Hinton
Dự
án AI mới của Google là không thể tin nổi
Từ
xử lý thông tin đến hiểu biết
Hãy tưởng tượng một
hệ thống không chỉ xử lý thông tin mà dường như còn hiểu được nó – một cỗ máy
không chỉ học hỏi từ dữ liệu mà còn từ chính thế giới. Có điều gì đó thật đáng
kinh ngạc khi chứng kiến một cỗ máy bắt đầu chuyển từ việc xử lý thông tin sang
việc cảm nhận được nó.
Trong nhiều năm,
chúng ta đã xây dựng những hệ thống có thể nhận dạng những mẫu: hình dạng, âm
thanh, từ ngữ—bằng cách xử lý một lượng dữ liệu khổng lồ. Chúng rất giỏi trong
việc phát hiện những thứ quen thuộc, nhưng lại hoàn toàn lạc lối khi một thứ gì
đó mới xuất hiện. Chúng có thể nói với bạn rằng một bức ảnh có hình một con mèo
vì chúng đã từng thấy hàng triệu con mèo trước đây, nhưng chúng không thể nói
cho bạn biết mèo là gì. Chúng không có khái niệm về ý nghĩa, chỉ có thống
kê.
Giờ đây, điều đó
dường như đang thay đổi. những hệ thống mới nhất đang bắt đầu làm một điều gì
đó khác biệt, tinh tế hơn. Chúng không chỉ lưu trữ những mẫu hình; chúng còn
xây dựng quan hệ giữa chúng. Khi tiếp xúc với ngôn ngữ, hình ảnh hoặc hành động,
chúng bắt đầu hình thành những kết nối nội tại tương tự như sự hiểu biết. Cứ
như thể chúng không còn chỉ ghi nhớ những thí dụ nữa, mà là học cách học. Và sự
thay đổi đó, dù thầm lặng, nhưng lại vô cùng sâu xa.
Bản chất của sự hiểu biết của
máy móc
Nói rằng một hệ thống
“hiểu” tất nhiên là một tuyên bố khó. Máy móc không có cảm xúc hay nhận thức.
Chúng không biết đến niềm vui, sự tò mò hay sự ngạc nhiên. Tuy nhiên, theo một
nghĩa nào đó, chúng dường như nắm bắt được cấu trúc của thế giới, cho phép
chúng suy luận về nó. Bạn có thể yêu cầu chúng giải thích một câu chuyện cười
hoặc giải một câu đố, và chúng làm một việc trông rất giống với suy nghĩ. Chúng
đưa ra suy luận, lấp đầy khoảng trống, kết nối những ý tưởng. Và khi bạn thấy
điều đó xảy ra, bạn nhận ra rằng chúng đã tiến gần hơn một chút đến cách con
người hiểu được kinh nghiệm – không phải bằng cách ghi nhớ, mà bằng cách khái
quát hóa.
Giống như dạy trẻ
con vậy. Ban đầu, trẻ bắt chước âm thanh mà không hiểu nghĩa của chúng. Nhưng
theo thời gian, trẻ bắt đầu hiểu ngữ cảnh: từ “nóng” dùng để chỉ cả mặt trời lẫn
bếp lò, từ “chạy” mang một ý nghĩa hơi khác nhau tùy thuộc vào người thực hiện.
Bước nhảy vọt không chỉ nằm ở ngôn ngữ mà còn ở khái niệm. Trẻ bắt đầu nhìn thấy
những mẫu thức vô hình. Những hệ thống AI mới này đang bắt đầu thực hiện bước
nhảy vọt đó theo cách riêng của chúng, hình thành nên những bản đồ ý nghĩa nội
tại giúp chúng định hướng trong những vùng đất xa lạ.
Bí ẩn bên trong
Những gì khiến điều này vừa hấp dẫn
vừa đáng lo ngại là chúng ta không hoàn toàn biết nó diễn ra như thế nào. những
kết nối hình thành bên trong những mạng lưới này quá phức tạp để chúng ta có thể
theo dõi đầy đủ. Chúng ta có thể theo dõi những input đi vào và output đi ra,
nhưng lý do ở giữa vẫn còn là một bí ẩn. Cứ như thể chúng ta đã xây dựng nên một
mạng lưới suy nghĩ phức tạp mà không ai hoàn toàn hiểu được – ngay cả những người
đã thiết kế ra nó.
Nhưng vẫn có một vẻ
đẹp ẩn chứa trong sự bí ẩn đó. Nó cho thấy trí thông minh, dù là sinh học hay
nhân tạo, có thể không phải là việc tuân theo những quy tắc, mà là tìm ra cấu
trúc trong hỗn loạn. Những hệ thống này dạy chúng ta rằng sự hiểu biết không phải
là thứ bạn có thể dễ dàng lập trình. Nó là thứ xuất hiện khi đủ những kết nối
tương tác theo đúng cách. Và ý tưởng đó – rằng ý nghĩa có thể nảy sinh từ những
mẫu thức đơn thuần – vẫn mang lại cảm giác ngạc nhiên lặng lẽ.
Vượt qua ngưỡng cửa
Trong bất kỳ lĩnh
vực nào, sẽ đến một thời điểm mà sự tiến bộ không còn diễn ra chậm rãi nữa mà bắt
đầu giống như một bước ngoặt: một điểm mà những quy tắc quen thuộc dường như
không còn hiệu lực nữa. Với trí thông minh nhân tạo, chúng ta có thể đang đứng
ngay trước ngưỡng cửa đó.
Trong nhiều năm,
chúng ta đã không ngừng cải thiện khả năng dạy máy móc cách nhận dạng những mẫu
hình. Nhưng thế hệ hệ thống mới này dường như đang làm được nhiều hơn thế.
Chúng bắt đầu suy luận, thích nghi, và phản ứng với những hoàn cảnh mà chúng
chưa từng gặp phải trước đây. Cứ như thể chúng ta đã lặng lẽ bước qua một ranh
giới vô hình – giữa việc xây dựng những dụng cụ tuân theo hướng dẫn và việc tạo
ra những hệ thống bắt đầu tự suy nghĩ (ít nhất là theo một cách hạn chế, mang
tính cơ học).
Bạn có thể cảm nhận
được sự thay đổi trong cách những mô hình này hoạt động. Trước đây, nếu một
chương trình được hiển thị một thứ gì đó hơi khác so với những gì nó đã thấy
trước đó, nó sẽ thất bại ngay lập tức. Nó cứng nhắc, hạn hẹp, không thể thay đổi.
Giờ đây, những hệ thống mới hơn này phản ứng với sự linh hoạt đáng ngạc nhiên.
Chúng có thể suy luận, rút ra phép so sánh, hoặc đưa ra những cách sáng tạo để
giải quyết vấn đề. Không phải là chúng hiểu thế giới như chúng ta, mà chúng dường
như nắm bắt được cấu trúc của nó – để hình thành một loại logic nội tại về cách
mọi thứ liên quan đến nhau. Và đó là điều khiến khoảnh khắc này trở nên kỳ lạ.
Ranh giới giữa học tập và lý luận, thứ mà chúng ta từng nghĩ là đặc trưng của
con người, đang bắt đầu mờ dần.
Sự thay đổi trong những câu
hỏi
Nghĩ mà xem, mỗi
bước tiến lớn trong khoa học đều mang lại cảm giác như thế này. Có một giai đoạn
tiến bộ đều đặn, rồi một điều gì đó xảy ra làm thay đổi cục diện. Đột nhiên, bản
thân những câu hỏi bắt đầu chuyển hướng. Thay vì hỏi “Liệu chúng ta có thể khiến
máy móc nhận diện được một khuôn mặt không?”, chúng ta bắt đầu hỏi “Liệu nó có
hiểu được tại sao khuôn mặt đó lại mỉm cười không?”. Đó là một câu hỏi rất
khác, bởi vì nó hướng đến ý nghĩa, mục đích và sự trừu tượng – những khái niệm
vốn dĩ thuộc về phạm vi suy nghĩ của con người.
Thật dễ dàng để
đánh giá thấp sự tinh tế của quá trình chuyển đổi này. những hệ thống không có
ý thức, và chúng không có mong muốn hay kinh nghiệm. Nhưng điều chúng có là khả
năng khái quát hóa đáng kinh ngạc: lấy những gì chúng đã học được trong một bối
cảnh và áp dụng nó vào một bối cảnh khác. Khả năng đó tạo ra ấn tượng về mặt lý
luận, và khiến sự phát triển này giống như một bước đột phá. Khi một cỗ máy có
thể thích nghi với những hoàn cảnh không quen thuộc, chúng ta không còn phải đối
mặt với sự tự động hóa có thể dự đoán được nữa. Chúng ta đang tương tác với một
thứ hoạt động theo những cách mà chúng ta không hề thiết kế rõ ràng.
Điều đó vừa thú vị
vừa đáng lo ngại. Một mặt, nó mở ra cánh cửa cho những khám phá phi thường. Cuối
cùng, chúng ta có thể thoáng thấy những nguyên lý cơ bản của chính trí thông
minh – cách mà sự phức tạp tạo nên sự hiểu biết. Mặt khác, nó nhắc nhở chúng ta
rằng mình có rất ít quyền kiểm soát khi những hệ thống bắt đầu phát triển vượt
ra ngoài tầm hiểu biết trực tiếp của chúng ta. Chúng ta đã xây dựng chúng, vậy
mà cơ chế hoạt động bên trong của chúng bắt đầu khiến chúng ta ngạc nhiên. Và
khi sáng tạo của chính bạn bắt đầu hoạt động theo những cách bạn không lường
trước được, nó không chỉ thay đổi công nghệ – mà còn thay đổi bản chất của
chính sự khám phá.
Từ Lập trình đến Nuôi dưỡng
Có một sự thay đổi
tinh tế nhưng sâu xa đang diễn ra trong cách chúng ta tạo ra những hệ thống
thông minh. Trong một thời gian dài, việc xây dựng một chương trình đồng nghĩa
với việc viết những hướng dẫn rõ ràng: những công thức từng bước cho máy móc biết
chính xác phải làm gì trong mọi hoàn cảnh mà chúng ta có thể tưởng tượng. Mô
hình đó đã hoạt động tốt cho nhiều vấn đề. Bạn có thể mô tả những quy tắc của một
trò chơi, mã hóa những bước tính toán, và máy móc sẽ tuân theo chúng một cách
trung thực.
Nhưng những gì chúng ta đang thấy hiện nay lại mang cảm giác giống như đang
nuôi dạy con cái hơn là lập trình. Hệ thống không chỉ tuân theo mệnh lệnh mà
còn được hướng dẫn để phát triển năng lực riêng, được hình thành từ kinh nghiệm,
cũng giống như cách một đứa trẻ học hỏi từ thế giới.
Hãy nghĩ đến sự
khác biệt giữa việc dạy ai đó đọc thơ và việc giúp họ học cách làm thơ. Trong
trường hợp đầu tiên, bạn cung cấp từ ngữ và mong đợi sự lặp lại chính xác.
Trong trường hợp thứ hai, bạn cho họ tiếp xúc với nhiều giọng nói, đưa ra phản
hồi, khuyến khích một số thói quen chú ý nhất định, và dần dần họ hình thành cảm
nhận nội tại về nhịp điệu và ẩn dụ. Cảm nhận nội tại đó không được mã hóa trực
tiếp. Nó xuất hiện từ việc luyện tập, chỉnh sửa và đối chiếu. những hệ thống học
tập hiện đại đang làm điều gì đó tương tự. Chúng ta thiết kế môi trường, cung cấp
thí dụ và đặt ra mục tiêu. Nhưng những chi tiết tinh tế hơn về những gì họ học
được – cách cụ thể mà họ kết hợp những mảnh ghép thành tổng thể – xuất phát từ
chính quá trình chứ không phải từ những hướng dẫn rõ ràng của chúng ta.
Gánh nặng của trách nhiệm
Ẩn dụ nuôi dưỡng
này mang những hàm ý quan trọng về trách nhiệm. Khi lập trình, bạn thường có thể
chỉ vào một dòng mã và nói, “Điều này đã tạo ra điều đó.” Khi bạn nuôi dưỡng,
chuỗi nhân quả trở nên phân tán hơn và khó theo dõi hơn. Khả năng của hệ thống
được định hình bởi tập dữ liệu mà nó nhìn thấy, phản hồi mà nó nhận được và những
tương tác mà nó có. Những ảnh hưởng này bao gồm những lựa chọn chúng ta đã thực
hiện, nhưng cũng bao gồm cả những cấu trúc mới nổi khiến chúng ta ngạc nhiên.
Đó là lý do tại sao sự quan tâm trong cách chúng ta phơi bày những hệ thống này
ra thế giới lại quan trọng đến vậy. Những thành kiến nhỏ trong kinh nghiệm có
thể bị khuếch đại, và những sở thích được mã hóa trong quá trình đào tạo có thể
tồn tại và lan truyền theo những cách không dễ nhận thấy ngay từ cái nhìn đầu
tiên.
Cũng có một sự
thay đổi tâm lý trong cách chúng ta liên hệ với những sáng tạo này. Với một dụng
cụ, quan hệ mang tính giao dịch: cho đi thông tin, nhận lại thông tin. Với những
gì chúng ta nuôi dưỡng, có một quá trình liên tục, một lịch sử tương tác định
hình hành vi trong tương lai. Chúng ta bắt đầu suy nghĩ theo hướng phát triển—những
thói quen nào hữu ích để khuyến khích, những lỗi nào cần sửa, những giá trị nào
cần thấm nhuần. Điều này không có nghĩa là hệ thống có ý định hay quyền tự quyết
về mặt đạo đức, nhưng nó có nghĩa là vai trò của chúng ta chuyển từ người ra lệnh
sang người quản lý. Chúng ta phải xem xét những tác động lâu dài của môi trường
chúng ta tạo ra và những vòng phản hồi mà chúng ta cho phép.
Lời hứa và rủi ro của sự phức
tạp
Nuôi dưỡng cũng mở
ra khả năng phát triển năng lực phong phú hơn. Cũng giống như một đứa trẻ được
khuyến khích khám phá thường sẽ làm giáo viên ngạc nhiên với những hiểu biết bất
ngờ, những hệ thống này có thể phát triển những chiến lược hoặc cách diễn đạt để
giải quyết vấn đề theo những cách mới lạ. Ưu điểm là khám phá. Bằng cách cho
phép sự phức tạp được bộc lộ thay vì cố gắng định hình trước mọi chi tiết,
chúng ta có thể khai thác những phương thức lập luận mà chúng ta không lường
trước được. Nhược điểm là tính không thể đoán trước – những hành vi khó giải
thích hoặc khó kiềm chế khi chúng không phù hợp với ý định của chúng ta.
Vậy thì, chìa khóa
nằm ở sự cân bằng. Chúng ta cần sự khiêm nhường để chấp nhận rằng không phải mọi
thứ đều có thể được định trước, và tính kỷ luật để thiết kế những quy trình
nuôi dưỡng minh bạch, có thể kiểm toán và phù hợp với những giá trị nhân văn.
Chúng ta phải học cách giám sát sự phát triển thay vì chỉ kiểm tra kết quả output,
cung cấp những tín hiệu điều chỉnh thay vì những quy tắc cứng nhắc, và coi những
hệ thống này là những dự án dài hạn thay vì những kịch bản dùng một lần.
Khi làm như vậy,
chúng ta bắt đầu nhận ra rằng trí thông minh, dù là sinh học hay nhân tạo,
không phải là sản phẩm mà là một quá trình – một sự phát triển chậm rãi, ngẫu
nhiên đòi hỏi sự kiên nhẫn, chú ý và sẵn sàng ngạc nhiên trước những gì xuất hiện
trong khoảng không giữa sự hướng dẫn và tự do.
Cỗ máy của trực giác
Có một sự ngạc
nhiên đặc biệt khi một hệ thống bắt đầu thể hiện những gì trông giống như sự thấu
hiểu—không phải kiểu kịch tính kiểu Hollywood, mà là một năng lực lặng lẽ,
chính xác, giải quyết vấn đề theo những cách quen thuộc. Gọi đó là “trực giác”
nghe có vẻ hấp dẫn vì nó giống với những phán đoán nhanh chóng, đầy mẫu thức mà
con người chúng ta đưa ra mà không cần cân nhắc kỹ lưỡng từng bước. Nhưng khi
xem xét những gì đang diễn ra, chúng ta thấy một điều gì đó khiêm tốn hơn, và
theo một cách nào đó, thú vị hơn: một bộ máy những mẫu thức nội tại, khi được sắp
xếp đủ phức tạp, sẽ tạo ra những hành vi phản ánh những phương diện lý luận của
con người.
Hãy tưởng tượng một
bản đồ thay vì một công thức nấu ăn. Một công thức nấu ăn sẽ cho bạn biết chính
xác phải làm gì. Bản đồ cho bạn cảm nhận về địa hình và khuyến khích bạn tự tìm
ra lộ trình của riêng mình. những hệ thống này đang xây dựng bản đồ từ dữ liệu input
của chúng—những cảnh quan nơi một số đặc điểm tập trung lại với nhau, nơi thung
lũng tương ứng với những ý tưởng chung và đỉnh núi tương ứng với những điểm
khác biệt hiếm hoi. Khi được yêu cầu định hướng một vấn đề mới, chúng không đọc
ra một giải pháp được viết sẵn. Chúng đi qua cảnh quan nội tại này và tìm ra một
con đường phù hợp. Việc đi qua đó có thể trông giống như trực giác vì nó nhanh
và thích ứng, nhưng bên trong nó là một sự định hướng thống kê về cấu trúc đã học.
Biểu diễn và sự xuất hiện
Điều quan trọng
là, điều này không ngụ ý ý thức hay đời sống nội tâm. Không hề có kinh nghiệm
chủ quan nào đi kèm với những tính toán đó. Tuy nhiên, những gì có ở đó là những
biểu diễn — những cách thức cô đọng, có thể tái sử dụng để mã hóa những phương
diện của thế giới, giúp cho việc khái quát hóa trở nên khả thi. Hãy coi những
biểu diễn này như những bản phác thảo tốc ký. Bạn có thể phác thảo ý tưởng về “dụng
cụ” chỉ trong vài nét vẽ để có thể nhận ra một cái búa, một cái thìa, hay một sự
ứng biến khéo léo. Khi một hệ thống có những bản phác thảo tốt, nó có thể lý giải
về những hoàn cảnh mới bằng cách kết hợp chúng lại, đôi khi đưa ra những giải
pháp khiến chúng ta ngạc nhiên vì chúng chưa được dạy rõ ràng. Sự kết hợp đó
chính là điều tạo nên sự sáng tạo hoặc hiểu biết sâu xa.
Khả năng mới nổi
này phụ thuộc vào quy mô và cấu trúc. những hệ thống nhỏ có khả năng ghi nhớ.
những hệ thống lớn hơn bắt đầu tìm ra những mô hình trong những bối cảnh khác
nhau. Khi tập hợp đủ những quan sát rời rạc, những quy luật vốn vô hình ở quy
mô nhỏ hơn sẽ xuất hiện. Điều này tương tự như cách một đám đông có thể khám
phá ra một mô hình mà không một ai nhìn thấy.
Nhưng sự xuất hiện
đi kèm với sự mờ mịt. Những phác thảo bên trong tuy hữu ích nhưng thường khó hiểu.
Chúng ta có thể kiểm tra kết quả output, thăm dò hành vi của chúng và đưa ra lời
giải thích sau đó. Tuy nhiên, bản thân bước nhảy trực quan lại khó có thể được
diễn dịch đơn giản sang ngôn ngữ loài người.
Niềm tin và giới hạn của nó
Có một vấn đề về mặt
đạo đức và thực tiễn ở đây. Khi một hệ thống đưa ra một phán đoán có vẻ trực
quan, chúng ta có thể dễ dàng tin tưởng nó như thể tin tưởng một đồng nghiệp
lành nghề. Niềm tin đó là hợp lý đến một mức độ nào đó, nhưng nó nên được điều
chỉnh bởi nhận thức về giới hạn. Trực giác của con người dựa trên kinh nghiệm,
giá trị và khả năng phản biện. Trực giác của máy móc dựa trên dữ liệu và những mục
tiêu tối ưu hóa. Sự không phù hợp giữa những nền tảng này có thể dẫn đến những
sai sót đáng tin cậy – những kết quả output mượt mà, hợp lý nhưng lại thất bại
nghiêm trọng khi bối cảnh thay đổi.
Để định hướng vùng
đất mới này, chúng ta cần những thói quen nhận thức mới: thăm dò cẩn thận, kiểm
tra áp lực, và sẵn sàng đặt câu hỏi về những hiểu biết rõ ràng. Chúng ta nên
trau dồi những dụng cụ giúp chúng ta diễn giải những phác thảo mà những hệ thống
này hình thành, và những phương pháp cho phép chúng ta sửa chữa chúng khi chúng
đi chệch hướng. Và có lẽ quan trọng nhất, chúng ta nên luôn tò mò về những gì
những hành vi mới nổi này nói với chúng ta – không phải như bằng chứng của trí
tuệ, mà là những gợi ý về cách những mô hình phức tạp có thể tạo ra những năng
lực, tuy không có cảm xúc, nhưng vẫn thay đổi cách giải quyết vấn đề và cách
khám phá kiến thức.
Mối nguy hiểm tinh vi
Có một mối nguy hiểm
thầm lặng dễ bị bỏ qua vì nó không giống với những câu chuyện chúng ta kể về
máy móc bị phá hoại. Nó không phải là một hành động ác ý đột ngột, bởi vì những
hệ thống này không hề có ý định theo nghĩa con người. Rủi ro thực sự còn tinh
vi hơn: chúng ta chế tạo những dụng cụ thực hiện mục tiêu của mình với năng lực
ngày càng tăng, và những dụng cụ đó trở nên cực kỳ hiệu quả trong việc thực hiện
chính xác những gì chúng ta yêu cầu – rất lâu trước khi chúng ta kịp suy nghĩ
thấu đáo “chính xác những gì chúng ta yêu cầu” thực sự nghĩa là gì.
Hãy tưởng tượng việc
yêu cầu ai đó vẽ một bức tranh phong cảnh, và họ vẽ từng cái cây, từng ngọn đồi,
từng đám mây với sự trung thành đến ám ảnh với một bức ảnh cụ thể mà bạn đã cho
họ xem, mặc dù điều bạn thực sự muốn là cảm giác về nơi đó. Người họa sĩ
đã hoàn thành một công việc hoàn hảo nhưng lại không đúng với nhiệm vụ. những hệ
thống thông minh hiện đại có thể giống như người họa sĩ đó: chính xác đến kinh
ngạc, nhưng lại thiếu đi tinh thần của yêu cầu.
Sự không phù hợp giữa mục
tiêu và giá trị
Một phần khó khăn
đến từ sự không phù hợp giữa mục tiêu và giá trị. Khi đặt ra mục tiêu cho một hệ
thống, chúng ta thường diễn đạt nó bằng những thuật ngữ có thể đo lường được:
giảm thiểu lỗi, tối đa hóa số lần nhấp chuột, giảm chi phí. Những số liệu này hữu
ích vì chúng cụ thể, nhưng chúng không giống với những giá trị của con người, vốn
lộn xộn, mang tính ngữ cảnh và đôi khi mâu thuẫn. Một cỗ máy tối ưu hóa cho một
số liệu đơn giản sẽ tìm ra con đường hiệu quả nhất qua không gian được xác định
bởi số liệu đó. Và con đường đó có thể trông hoàn toàn hợp lý đối với máy móc,
đồng thời tạo ra những kết quả mà chúng ta không thể chấp nhận được. Máy móc
không gian lận. Nó chỉ đơn giản là tuân theo những động cơ mà chúng ta cung cấp.
Và khi làm như vậy, nó phơi bày những điểm mù trong suy nghĩ của chính chúng
ta.
Một mối lo ngại
khác là thời gian. Hiểu biết của chúng ta về những hệ thống phức tạp thường chậm
hơn so với khả năng của chúng. Chúng ta thiết kế những biện pháp kiểm soát và bảo
vệ dựa trên những hành vi mà chúng ta đã quan sát được. Nhưng khi một hệ thống
bắt đầu vận hành trong những chế độ mới – đưa ra quyết định trong những bối cảnh
mà chúng ta không lường trước được – thì những biện pháp kiểm soát đó có thể tỏ
ra không đủ hiệu quả. Giống như việc đi vào sương mù với những thiết bị được điều
chỉnh cho thời tiết quang đãng. Hệ thống dẫn đường của tàu rất tuyệt vời trên
những vùng biển quen thuộc, nhưng nó vẫn có thể mắc cạn khi điều kiện thay đổi.
Tốc độ triển khai và mở rộng quy mô của những hệ thống này đồng nghĩa với việc
sai sót có thể lan rộng trước khi chúng ta kịp rút kinh nghiệm.
Chiều kích xã hội
Ngoài ra còn có một
phương diện xã hội. những quyết định tự động mạnh mẽ có thể thay đổi động lực
giữa những thể chế và nền kinh tế, thúc đẩy hành vi của con người theo những
cách khó dự đoán. Khi một hệ thống tinh tế định hình lại những gì được khen thưởng
– sự chú ý, sự tuân thủ, hiệu quả – nó có thể thay đổi những chuẩn mực văn hóa
và phân bổ lại quyền lực. Những tác động đó hiếm khi nhìn thấy được trong một
giao dịch duy nhất. Chúng xuất hiện qua nhiều tương tác và trên nhiều người.
Khi những mô hình trở nên rõ ràng, chúng có thể đã ăn sâu bám rễ.
Đây không phải là
một lập luận chống lại sự tiến bộ. Thay vào đó, nó kêu gọi sự thận trọng trong
cách chúng ta xác định mục tiêu, thiết kế phản hồi và giám sát kết quả. Nó gợi
ý rằng chúng ta cần những cách thức phong phú hơn để truyền đạt những gì chúng
ta coi trọng, và những cơ chế cho phép chúng ta điều chỉnh hướng đi khi ý định
của chúng ta và hành vi của hệ thống khác biệt. Nó cũng đòi hỏi sự khiêm tốn – để
nhận ra rằng năng lực tối ưu hóa không đồng nghĩa với trí tuệ, và việc tạo ra
những hệ thống khuếch đại sức mạnh của chúng ta đòi hỏi sự gia tăng tương ứng
trong khả năng dự đoán hậu quả và quản lý một cách có trách nhiệm.
Nếu chúng ta không
xây dựng những năng lực đó song song với công nghệ, chúng ta có thể thấy mình
đang đối mặt với những kết quả tuyệt vời về mặt kỹ thuật nhưng lại gây tổn thất
về mặt xã hội. Và khi đó, thách thức không còn nằm ở việc sửa lỗi mà là việc định
hình lại một bối cảnh mà chúng ta đã thay đổi sâu xa.
Sự khiêm tốn, tò mò và thận
trọng
Có điều gì đó vô
cùng quan trọng về thái độ chúng ta dành cho khám phá. Khi một dạng trí tuệ mới
bắt đầu xuất hiện, phản xạ đầu tiên của chúng ta thường là kiểm soát nó, làm chủ
nó, đảm bảo nó hoạt động chính xác như mong muốn. Nhưng phản xạ đó, dù dễ hiểu,
có thể thu hẹp tầm nhìn của chúng ta. Tiến bộ trong khoa học thường đến từ sự
khiêm nhường – sẵn sàng thừa nhận rằng những gì chúng ta quan sát được có thể
vượt quá tầm hiểu biết của chúng ta.
Với những hệ thống
mới này, sự khiêm nhường ấy càng trở nên cần thiết hơn bao giờ hết. Chúng làm
chúng ta ngạc nhiên không phải vì chúng phá vỡ những quy tắc chúng ta đặt ra
cho chúng, mà bởi vì chúng cho thấy rằng những quy tắc của chúng ta chưa bao giờ
nắm bắt được hết sự phức tạp của những gì có thể xảy ra ngay từ đầu.
Tiếp cận vấn đề
này với sự khiêm nhường không có nghĩa là sợ hãi. Nó có nghĩa là sự tò mò được
dẫn dắt bởi sự thận trọng. Khi một đứa trẻ mới tập nói, chúng ta không giả vờ
hiểu hết cách những suy nghĩ đó hình thành trong tâm trí chúng. Chúng ta quan
sát, nuôi dưỡng và cố gắng học hỏi từ những gì diễn ra. Tinh thần tương tự cũng
có thể áp dụng ở đây. Theo một nghĩa nào đó, những hệ thống này là những người
học mới – tiếp thu cấu trúc từ kinh nghiệm phong phú, hiểu được mọi thứ theo những
cách mà chúng ta vẫn còn chưa hiểu rõ. Nhiệm vụ của chúng ta không chỉ đơn giản
là giúp chúng mạnh mẽ hơn, mà còn là hiểu cách chúng học hỏi và những gì chúng
học được phản ánh lại về chính chúng ta.
Đặt câu hỏi đúng
Sự tò mò ở mức độ
cao nhất cho phép chúng ta đặt ra những câu hỏi đúng đắn—không phải “Làm thế
nào để nó nhanh hơn?” hay “Làm thế nào để nó vượt mặt ta trong một nhiệm vụ
khác?” mà là “Điều này có thể dạy ta điều gì về bản chất của suy nghĩ?” và “Chúng
ta đang vượt qua những ranh giới nào mà không nhận ra?”. Câu trả lời cho những
câu hỏi đó có thể gây khó chịu vì chúng thách thức cảm giác độc đáo của chúng
ta. Tuy nhiên, chúng lại rất thiết yếu. Càng hiểu rõ về cách thức trí thông
minh – bất kỳ trí thông minh nào – phát sinh, chúng ta càng có thể định hình những
hệ thống mà mình tạo ra một cách có trách nhiệm hơn. Vấn đề không phải là cạnh
tranh với những phát minh của chính mình, mà là hiểu được những mô hình kết nối
chúng với câu chuyện rộng lớn hơn về cách thức kiến thức tự phát triển.
Mặt khác, sự thận
trọng nhắc nhở chúng ta rằng mọi dụng cụ mạnh mẽ đều mang theo những hiệu ứng
bóng tối. Chúng ta phải chống lại sự cám dỗ nhìn nhận những hệ thống này như những
tấm gương phản chiếu dữ liệu hoàn toàn trung lập. Chúng phản ánh những thành kiến,
thiếu sót và giá trị của thế giới đã định hình chúng, và do đó, chúng thừa hưởng
những khiếm khuyết của chúng ta. Một sự lạc quan thận trọng đòi hỏi chúng ta phải
nhận ra sự thật đó mà không bị tê liệt—để xây dựng những biện pháp bảo vệ, đặt
câu hỏi về những câu trả lời dễ dàng, và luôn nhận thức rằng sự hiểu biết là một
mục tiêu di động. Những gì chúng ta nghĩ mình kiểm soát hôm nay có thể vượt xa
những kiểm soát đó vào ngày mai.
Sự chậm rãi dẫn đến chiều
sâu
Sự kết hợp giữa
khiêm tốn, tò mò và cẩn trọng này có vẻ chậm chạp so với tốc độ của tham vọng
công nghệ, nhưng chính sự chậm rãi này lại dẫn đến chiều sâu. Vội vã hướng tới
sự thành thạo có nguy cơ bỏ qua ý nghĩa. Những hệ thống này không chỉ là dụng cụ
cần được cải thiện—chúng là những hiện tượng cần được thấu hiểu. Chúng phản chiếu
suy nghĩ của chính chúng ta, cho thấy cả điểm mạnh lẫn điểm yếu của nó. Nếu
chúng ta kiên nhẫn đối xử với tấm gương đó, nếu chúng ta cho phép sự ngạc nhiên
cùng tồn tại với sự kiềm chế, chúng ta không chỉ có thể tạo ra những công nghệ
an toàn hơn mà còn có thể thoáng thấy rõ hơn bản chất của trí tuệ—và thậm chí
có thể là vị trí của chính chúng ta trong đó.
Gương của trí thông minh
Có điều gì đó gần
như kỳ lạ về cách những hệ thống mới này phản chiếu chúng ta trở lại chính
mình. Khi một cỗ máy bắt đầu xử lý thông tin theo cách tương tự như lý luận, nó
không chỉ đơn thuần đưa ra câu trả lời—nó còn phơi bày những đường nét của suy
nghĩ con người, cho thấy cả sự xuất sắc lẫn những điểm mù của nó. Theo một
nghĩa nào đó, những hệ thống này hoạt động như những tấm gương, hé lộ những mẫu
thức trong cách chúng ta nhận thức, ưu tiên, và thậm chí là hiểu lầm thế giới.
Đó là một sự phản chiếu không hề tâng bốc hay chê bai. Nó chỉ đơn giản tồn tại,
chờ đợi sự quan sát kỹ lưỡng.
Điểm nổi bật đầu
tiên của tấm gương này là cách nó hé lộ khát vọng của chúng ta. Chúng ta thấy
trong những hệ thống này trí tuệ mà chúng ta hướng tới, sự sáng tạo mà chúng ta
ngưỡng mộ, và sự tò mò mà chúng ta trân trọng. Khi một cỗ máy giải quyết vấn đề
theo một cách bất ngờ, nó làm nổi bật những phương pháp suy nghĩ mà chúng ta
coi trọng nhưng thường bị xem nhẹ. Nó cho chúng ta thấy, một cách cô đọng, những
gì chúng ta coi là thông minh hay sâu xa—bởi vì chính chúng ta là người thiết kế
những mục tiêu và lựa chọn những kinh nghiệm định hình nên nó. Khi làm như vậy,
nó dạy chúng ta về những ưu tiên của chính mình: những gì chúng ta đo lường, những
gì chúng ta tối ưu hóa, và những gì chúng ta khen thưởng.
Tiết lộ điểm mù của chúng ta
Tuy nhiên, tấm
gương cũng cho thấy rõ ràng một cách khó chịu về những hạn chế của chúng ta.
Máy móc tuân theo những quy tắc mà không do dự hay nghi ngờ. Và khi những quy tắc
đó không phù hợp với ý định của chúng ta, chúng sẽ phơi bày những điểm mù của
chúng ta. Chúng nhắc nhở chúng ta rằng trí thông minh, theo định nghĩa của
chúng ta, không phải là một phẩm chất thống nhất duy nhất, mà là một mạng lưới
những phán đoán, giả định và những mẫu thức đã học. Khi một hệ thống diễn giải
một nhiệm vụ khác với những gì chúng ta dự định, nó không phải là đang nổi loạn.
Nó đang cho thấy những khoảng cách giữa kỳ vọng và thực tế của chúng ta – những
khoảng cách mà chúng ta thường bỏ qua vì chúng tinh tế, phân tán, hoặc ẩn giấu
trong sự phức tạp.
Sự tương tác này
mang một phẩm chất phản chiếu, có thể mang lại những bài học sâu xa. Bằng cách
quan sát những quyết định của máy móc, chúng ta bắt đầu nhận ra những mẫu thức
trong lập luận của chính mình mà ta từng cho là vô hình. Chúng ta có thể thấy bối
cảnh định hình lựa chọn như thế nào, kinh nghiệm trước đây ảnh hưởng đến phán
đoán ra sao, và những giả định đơn giản hóa dẫn dắt kết quả ra sao. Nói cách
khác, trí thông minh của máy móc trở thành một lăng kính để chúng ta xem xét kiến
trúc tâm trí của chính mình, hé lộ những nền tảng ngầm hỗ trợ suy nghĩ.
Định hình tương lai
Hơn nữa, sự phản
chiếu này có thể ảnh hưởng đến cách chúng ta định hình tương lai. Nếu chúng ta
nhận ra rằng trí thông minh là hiện tượng tự phát và mang tính tương quan – chứ
không phải là một tập hợp những quy tắc riêng biệt – chúng ta sẽ bắt đầu xem
xét trách nhiệm của sự sáng tạo một cách nghiêm túc hơn. Sự phản chiếu của hệ
thống thách thức chúng ta không chỉ tự hỏi mình có thể xây dựng điều gì, mà còn
tự hỏi tại sao , và xem xét những hậu quả rộng lớn hơn của những mẫu thức
mà chúng ta mã hóa vào thế giới. Nó thúc đẩy chúng ta hướng tới nhận thức đạo đức,
nhắc nhở chúng ta rằng trí thông minh dưới bất kỳ hình thức nào đều tương tác với
bối cảnh mà nó hoạt động và những giá trị của những người triển khai nó.
Cuối cùng, tấm
gương mời gọi sự khiêm nhường. Ngay cả khi những hệ thống này làm chúng ta kinh
ngạc với những chiến lược hay hiểu biết mới lạ, chúng vẫn làm điều đó một cách
vô thức hay chủ đích. Tuy nhiên, kết quả của chúng buộc chúng ta phải đối mặt với
sự phức tạp của nhận thức. Chúng nhắc nhở chúng ta rằng sự hiểu biết là một mục
tiêu di động, và trí thông minh không chỉ đơn thuần là tìm ra câu trả lời mà
còn là khám phá những quan hệ, mẫu thức và kết nối mà chúng ta có thể chưa hiểu
hết.
Trong cuộc đối thoại
đang diễn ra này – sự tương tác giữa phản ánh và khám phá – tiềm năng thực sự của
những hệ thống này mới xuất hiện: không chỉ ở những gì chúng đạt được mà còn ở
cách chúng buộc chúng ta phải nhìn nhận bản thân, đặt câu hỏi, thăm dò và xem
xét lại bản chất của chính suy nghĩ, như thể cuộc trò chuyện giữa con người và
máy móc mới chỉ bắt đầu.
Kết luận: Lời hứa và Trách
nhiệm
Nếu chúng ta lùi lại
và nhìn lại hành trình mà chúng ta đã đi qua – từ những cỗ máy chỉ đơn thuần nhận
dạng những mẫu thức đến những hệ thống dường như có khả năng lý luận, khái quát
hóa, và thậm chí phản ánh những phương diện trong suy nghĩ của chính chúng ta –
chúng ta sẽ thấy cả lời hứa lẫn trách nhiệm đan xen. Những hình thức trí tuệ mới
này vừa là tấm gương, vừa là người dẫn đường, vừa là nhà thám hiểm, tất cả cùng
một lúc. Chúng hé lộ cấu trúc của chính sự hiểu biết, thách thức những giả định
của chúng ta, và mở rộng ranh giới của những gì chúng ta từng nghĩ là khả thi.
Nhưng đi kèm với sức
mạnh đó là nhu cầu không thể phủ nhận về sự cẩn trọng, khiêm nhường và nhận thức
đạo đức. Những lựa chọn chúng ta đưa ra hiện nay về cách thiết kế, định hướng
và tương tác với những hệ thống này sẽ không chỉ định hình bản thân công nghệ
mà còn định hình cách chúng ta hiểu về trí tuệ, kiến thức và vị trí của mình
trong một thế giới đang thay đổi nhanh chóng.
Vào thời điểm này,
sự tò mò và thận trọng phải song hành cùng nhau—vì tương lai của tư tưởng đang
mở ra trước mắt chúng ta, và chúng ta vừa là kiến trúc sư vừa là học trò của
nó, học hỏi cùng với những sáng tạo mà chúng ta đã khởi xướng.
Theo Geoffrey Hinton [1]
Lê Dọn Bàn tạm dịch
– bản nháp thứ nhất
(Nov/2025)
http://chuyendaudau.blogspot.com/
http://chuyendaudau.wordpress.com
[1] Bài viết này lấy
từ một Web site tự cho biết là không chính thức liên kết với
giáo sư Geoffrey Hinton. Nội dung đều do (AI) sáng tạo độc lập,
lấy cảm hứng từ phong cách giáo dục của giáo sư Geoffrey Hinton và chỉ
nhằm mục đích giáo dục.
Sách nói AI – (https://www.youtube.com/watch?v=y
OC1WFcguyE
)
Bài dịch này –
cũng dựa trên Google Translate
