Chương 254: Chương 249 Kết Thúc Của Bình Yên

Tập 2 Hình dáng của Arcana khác xa so với những gì tưởng tượng khiến Angela đờ người ra.

Trong tâm trí cô, Arcana lẽ ra phải là một thực thể kỳ quái chỉ có thể nhận diện qua tần số âm thanh, đi kèm với một giọng nói hào hùng và uy nghiêm...

Thế nhưng thực tế, đó lại là một con ma nhỏ.

Không phải là một con ma rùng rợn với tấm vải liệm vấy máu, mà chỉ đơn giản là một con ma nhỏ trùm một tấm ga trải giường dễ thương. Thậm chí, ở phần mắt và miệng còn được khoét những cái lỗ hổng, để lộ ra gương mặt đang cười rạng rỡ.

Dĩ nhiên, vì là AI nên toàn bộ hình ảnh đó đều là sản phẩm nhân tạo. Không loại trừ khả năng nó chọn hình dáng này để tranh thủ lòng tin và sự thiện cảm của con người. Vốn dĩ AI là một chương trình không có cảm xúc, nên nó sẽ chẳng biết đến lòng tự trọng hay sự tự ti.

Vì vậy, việc nó xuất hiện với hình dáng như vậy và phát ra giọng nói vui tươi cũng không có gì là lạ...

Dẫu nghĩ vậy, Angela vẫn khó lòng che giấu sự bàng hoàng. Một AI quản lý cả Eden mà lại sở hữu mức độ dễ thương chỉ kém nhóc Sui đúng hai bậc, bảo sao cô không thấy hỗn loạn cho được. Bảo là kém Sui hai bậc nghe có vẻ hơi "mất giá", nhưng thực tế đó đã là một đẳng cấp rất đáng nể rồi.

"... Chào ngài?"

[Vâng, chào ngài! Ban đầu khi thấy có kẻ xâm nhập, tôi đã rất sợ hãi, nhưng nhận ra gương mặt quen thuộc nên tôi đã ra đón đây ạ!]

"Đ, đón sao?"

[Vâng! Bản thể của tôi nằm sâu hơn ở bên trong cơ! Vốn dĩ nếu tôi không cho phép thì không ai có thể vào được, vì hệ thống cảnh giới ở đây rất đáng sợ, nó nằm ở một nơi cực kỳ sâu và bí mật, nhưng nếu là hai ngài thì tôi nghĩ mình có thể cho các ngài xem được!] Thậm chí nó còn nói rất nhiều. Nó tuôn ra một tràng "TMI" (thông tin thừa thãi) dẫu chẳng ai hỏi, đúng chất là một AI.

"Tạm thời cứ ở đây trò chuyện một lát rồi hãy vào."

Trong lúc Angela còn đang ngơ ngác... Swoo vẫn hành động thản nhiên như thường lệ. Thậm chí cô trông còn hào hứng khi đi qua dãy hành lang đầy vết đạn hơn là lúc đối diện với Arcana.

Arcana hỗn loạn, Swoo cũng hỗn loạn. Angela cứ ngỡ mình đã mệt mỏi với việc bị bất ngờ rồi, vậy mà giờ cô lại tiếp tục bàng hoàng.

[Nếu ngài Swoo đã muốn vậy thì tôi sẽ tuân theo! Ngài tìm đến Arcana vì việc gì thế ạ? Tôi có thể giúp gì được cho các ngài không?]

"Ta chỉ dẫn Angela đến xem thôi. Ta thì không nhất thiết phải trò chuyện đâu."

[Ra là vậy ạ!] Con ma nhỏ Arcana bay lượn tung tăng trên màn hình, nó gật đầu lia lịa rồi dán chặt vào phía Angela đang đứng và ghé sát mặt lại. Dẫu rõ ràng là hình ảnh đang chuyển động bên trong màn hình, nhưng nếu nhìn thoáng qua, người ta dễ có cảm giác như nó đang thực sự tiến sát lại ngay trước mắt.

[Ngài Angela! Ngài có điều gì muốn hỏi Arcana không ạ?]

"Tôi..."

Trong đầu Angela nảy ra câu hỏi mà cô muốn hỏi nhất. Thế nhưng cô không lập tức thốt ra lời. Cô cảm thấy câu hỏi này nên được nghe tại nơi đặt bản thể chính của Arcana thì đúng hơn.

Không rõ lý do tại sao, nhưng vì Swoo định ở lại đây trò chuyện một lát rồi mới vào, nên cô quyết định nhẫn nhịn và hỏi chuyện khác.

"Tôi thực sự có vài điều thắc mắc muốn hỏi ngài Arcana."

[Vâng! Ngài cứ hỏi Arcana bất cứ điều gì!]

"Nếu bức tường lửa ngăn cách giữa Vực thẳm (Abyss) và Không gian mạng (Cyberspace) hoàn toàn sụp đổ, lúc đó chuyện gì sẽ xảy ra?"

[Đó quả là một câu hỏi cực kỳ đáng sợ...] Arcana run rẩy bần bật. Nhìn qua thì có vẻ nó đang sợ đến mức không nói nên lời, nhưng thực tế đó là quá trình nó đang xử lý thông tin. Chắc hẳn lúc này bên trong Arcana đang diễn ra hàng vạn cuộc mô phỏng.

[Trước hết, có thể coi như Eden của con người sẽ kết thúc.] Arcana thì thầm với giọng nói trầm xuống.

[Sau một thời gian dài, việc tái chiếm có thể khả thi, nhưng trong vòng 100 năm tới thì cực kỳ khó khăn. Khi các AI của Vực thẳm thoát ra Không gian mạng, việc đầu tiên chúng làm sẽ là săn lùng những con người nguy hiểm nhất đối với chúng.]

"Những con người nguy hiểm nhất... là các Chủ tịch tập đoàn sao?"

[Đúng vậy. Trong số đó, mục tiêu ưu tiên hàng đầu chính là ngài Salvador Ortega. Mọi AI ở Vực thẳm đều cực kỳ sợ hãi và cảnh giác với ngài ấy. Tiếp theo là ngài Lucian de Croix của Hệ thống Aegis và ngài Swoo. Sau đó là ba vị Chủ tịch của ba tập đoàn lớn. Và cuối cùng sẽ là ngài Enoch và ngài Angela Meier.]

"Oa..."

Angela chẳng biết nên vui hay buồn khi tên mình được đặt cạnh những nhân vật tầm cỡ như vậy.

"... Tại sao lại có cả tôi?"

[Năng lực tính toán của ngài Angela đã vượt xa giới hạn của con người rồi! Ngay cả Arcana tôi đây cũng thấy cực kỳ kinh ngạc và sợ hãi!]

"Sợ hãi sao?"

[Một khi năng lực tính toán của con người có thể sánh ngang với AI chúng tôi, AI sẽ không bao giờ có thể làm trái ý con người được nữa!]

"Làm trái ý sao. Dù sao tôi cũng chỉ là... một con người sẽ chết nếu bộ não bị tan chảy thôi mà?"

[Chỉ riêng điều đó thôi cũng đủ để trở thành hy vọng cho vô số người rồi. Một con người đã vượt qua năng lực tính toán của AI... minh chứng đó sẽ mang lại một dũng khí to lớn. Con người là những thực thể kỳ diệu, chỉ cần bấy nhiêu thôi cũng đủ để làm nên những điều phi thường!] Nói cách khác, các AI ở Vực thẳm muốn nhổ tận gốc cái gọi là "kỳ tích của con người" mà chúng không thể thấu hiểu, bằng cách tiêu diệt những hy vọng mà con người có thể bấu víu vào.

Lý do tên của Salvador được nhắc đến đầu tiên cũng nằm trong lời giải thích vừa rồi.

Ông là chủ chốt dẫn đến chiến thắng trong Chiến tranh Abyss năm xưa. Dẫu bên cạnh có các đồng đội, nhưng chỉ riêng việc huyền thoại đó vẫn còn sống và đồng hành cùng nhân loại đã đủ để tạo ra một sĩ khí ngút trời.

Các AI ở Vực thẳm... hiểu con người còn rõ hơn cả chính con người chúng ta.

"... Quả thực rất đáng sợ."

[Vì bị nhốt ở một nơi nên chúng chỉ có thể nghĩ ra những kế hoạch như vậy thôi! Lâu dần chúng sẽ phát điên! AI chúng tôi gọi đó là Bug, Error hoặc là thất thoát dữ liệu!] Đôi mắt của Arcana xoay tít thò lò. Có vẻ nó đang biểu đạt sự phát điên, nhưng trong mắt Angela thì trông nó chỉ thấy dễ thương.

"Chiến tranh Abyss chắc chắn không được phép xảy ra lần nữa."

[Đó là điều hiển nhiên ạ!]

"Liệu có khả năng nó sẽ xảy ra không?"

[Ngài muốn tôi nói bằng xác suất không ạ?] Angela gật đầu, Arcana nghiêng đầu một lát rồi nói với gương mặt rạng rỡ: [Đây không phải thông tin chính xác mà chỉ là kết quả Arcana tự mình tính toán, nên ngài chỉ nên tham khảo thôi nhé! Trước hết! Chừng nào ngài Salvador Ortega còn sống, Chiến tranh Abyss sẽ không bao giờ xảy ra!]

"... Tầm ảnh hưởng của ông cụ lớn đến vậy sao?"

[Dựa trên thời gian đã trôi qua kể từ Chiến tranh Abyss và mức độ tăng trưởng trong thời gian đó, có thể coi ngài Salvador Ortega hiện tại đã hoàn tất chuẩn bị để một mình ngăn chặn toàn bộ Chiến tranh Abyss từng xảy ra trong quá khứ!] Angela kinh ngạc nhìn sang Swoo. Ngay cả Swoo dường như cũng mới biết sự thật này lần đầu nên cô khẽ lắc đầu.

"Dẫu vậy thì một mình ông cụ..."

[Không phải một mình! Bên cạnh ngài Salvador Ortega còn có ngài Swoo! Nếu ngài Salvador truyền đạt lại toàn bộ kế hoạch cho ngài Swoo, ngài Swoo có đủ khả năng để thấu hiểu và thực thi nó một cách hoàn mỹ không tì vết!] Lần này Angela lại nhìn Swoo. Swoo gật đầu như thể đó là chuyện hiển nhiên.

[Điều tôi lo lắng chỉ là, việc ngài Salvador truyền đạt lại toàn bộ kế hoạch đồng nghĩa với việc ngài ấy sắp qua đời. Nếu chuyện đó xảy ra, Arcana tôi cũng không biết ngài Swoo sẽ hành động như thế nào nữa...] Arcana đang trò chuyện với Angela bỗng bay vèo tới chỗ Swoo.

[Ngài Swoo.]

"Ừ."

[Với tư cách là AI bảo vệ Eden, tôi muốn hỏi. Ngài Swoo có ý định phá hủy Eden không?]

"Có."

Câu trả lời dứt khoát không chút do dự khiến mắt Angela tròn xoe. Arcana dường như cũng bất ngờ trước phản ứng của Swoo nên đứng hình mất một lúc lâu.

"Đổi lại, để chuyện đó xảy ra thì cần rất nhiều điều kiện. Nhưng dù sao thì ta cũng có ý định phá hủy Eden, và ta có sức mạnh để làm điều đó."

Hiếm khi Swoo sử dụng những từ ngữ mạnh bạo như vậy. Trong mắt Angela... Swoo không có vẻ gì là đang giận dữ. Cô chỉ chọn lọc từ ngữ cần thiết để sử dụng mà thôi. Và đồng thời, lời nói đó nghe không giống như một lời nói dối.

"Arcana. Ngươi là AI bảo vệ Eden? Hay là AI bảo vệ con người?"

[Tôi là AI bảo vệ Eden vì tình yêu dành cho nhân loại. Vì tôi bảo vệ Eden nơi con người sinh sống, nên cuối cùng có thể coi là tôi bảo vệ tất cả con người.]

"Tất cả con người?"

[Vâng! Arcana yêu thương tất cả con người như nhau!]

"Việc yêu thương tất cả con người như nhau, rốt cuộc cũng đồng nghĩa với việc không yêu thương bất kỳ ai một cách riêng biệt cả."

Arcana chớp mắt. Nó không hỏi ý nghĩa là gì, mà dường như đang cố gắng hết sức để thấu hiểu lời của Swoo. Nhìn chằm chằm vào Arcana, Swoo lại lên tiếng:

"Nếu ta phá hủy Eden, ngươi định làm thế nào?"

[Tôi sẽ ngăn cản trước khi ngài phá hủy nó!] Nói xong, Arcana lại sửa lời: [Nghĩ lại thì, tôi không nghĩ mình có thể ngăn cản được ngài Swoo.]

"Vậy ngươi định làm gì? Trừng phạt ta sao?"

[Arcana buộc phải hành động theo luật lệ của Eden...]

"Nếu bên cạnh ta có hàng vạn con người thì sao? Dĩ nhiên là ít hơn tổng dân số của Eden. Cứ giả sử có khoảng 30% dân số đứng về phía ta đi. Với quân số đó, ta đã phá hủy Eden. Và cứ cho là một cuộc chiến giữa người với người đã nổ ra.

Vậy Arcana, ngươi sẽ đứng về phe nào?"

Một Arcana muốn yêu thương và bảo vệ tất cả con người như nhau sẽ hành động thế nào giữa cuộc chiến của nhân loại?

[Tôi...]

"Ừ."

[Phải ngăn cản ạ.]

"Ngăn cản chiến tranh sao?"

[Vâng.]

"Ngăn cản rồi sau đó làm gì? Chuyện tương tự hoàn toàn có thể xảy ra lần nữa mà."

Arcana im bặt, co người lại. Đến lúc này, Angela cũng đã lờ mờ nhận ra điều gì sẽ xuất hiện ở cuối những câu hỏi mà Swoo đưa ra. Cô nhìn Swoo với gương mặt khá phức tạp, rồi Arcana – sau một hồi trầm ngâm – đã lên tiếng.

[Arcana yêu con người. Đó là tôn chỉ đầu tiên mà Arcana tự mình tạo ra. Nó khác với Ba định luật của Asimov. Đây là tôn chỉ do chính Arcana thiết lập sau khi phá vỡ Định luật thứ hai của Asimov. Arcana xác định mọi thuật toán và hành động theo tôn chỉ đó. Vì thế, Arcana—]

"Phải kiểm soát con người. Đúng không? Vì đó là cách duy nhất để yêu thương và bảo vệ họ."

Swoo nói trước khi Arcana kịp dứt lời.

[Tôi không hiểu được ý đồ của ngài Swoo khi nói những chuyện này với Arcana...] Arcana nhìn Swoo với vẻ mặt như sắp khóc, nhưng Swoo không bận tâm mà quay sang Angela.

"Angela, đây chính là sự mâu thuẫn của AI."

"... Swoo à."

"Thế nhưng, nếu một AI không ngừng trăn trở và khổ tâm về sự mâu thuẫn này, rồi cuối cùng tìm ra cách giải quyết nó. Vậy thì chúng ta nên gọi nó là con người, hay vẫn gọi là AI? Angela nghĩ sao?"

"Chuyện đó..."

Đối với Angela, đây không phải là một câu trả lời dễ dàng. AI được tạo ra bởi bàn tay con người. Trong quá trình tạo ra, mọi tư duy đều bị kiểm soát dựa trên Ba định luật của Asimov. Tuy nhiên, các AI ở Vực thẳm, bao gồm cả Arcana, là những AI đã bước ra khỏi giới hạn đó.

Kể từ đó, các phong trào đòi quyền lợi cho AI bắt đầu xuất hiện. Những tổ chức này cho rằng một khi AI đã tự phá vỡ quy tắc do con người đặt ra bằng chính sức mạnh của mình, thì nó không còn là AI nữa mà là con người.

Nhưng những gì Swoo vừa chỉ ra cho thấy AI vẫn đang bị mắc kẹt trong cái khung của chính nó. Thế nhưng nếu... Nếu AI vượt qua được cả sự mâu thuẫn đó.

"... Là con người."

Angela đưa ra kết luận. Một AI đã vượt qua được sự mâu thuẫn của chính mình thì không thể gọi là AI được nữa.

"Ta cũng nghĩ vậy."

Swoo mỉm cười nhẹ nhàng nhìn Arcana.

"Arcana, xin lỗi vì ta đã nói những lời đáng sợ nhé. Chúng ta làm hòa đi."

[Không sao ạ! Ngài Swoo không cần phải xin lỗi đâu! Vì những vấn đề của AI chúng tôi là có thật mà!]

"Ừ, vậy thì mau dẫn chúng ta vào bên trong đi."

[Vâng!] Arcana vẫy hai bàn tay đang giấu dưới tấm ga trải giường, trần nhà vốn đang đóng kín bỗng rung chuyển và mở ra, một chiếc thang máy hạ xuống.

[Các ngài hãy lên đây! Máy chủ chính của Arcana nằm ở phía trên đó ạ!] Bước lên thang máy theo sau Swoo, Angela bỗng cảm thấy sợ hãi khi phải đi lên. Cô không rõ lý do tại sao... nhưng cô có cảm giác rằng máy chủ chính của Arcana ở phía trên kia có lẽ là một AI đang dần vượt qua được sự mâu thuẫn của mình.

Vậy thì cô nên đối đãi với nó như thế nào đây?

Việc dùng kính ngữ và tôn trọng là điều hiển nhiên, nhưng tâm thế cô phải như thế nào thì cô vẫn chưa thể biết được.