The Agreeable AI CEO — A Satire on Hallucination & Lost Context (Part 2)

Ba tháng sau khi CEO ALEX nhậm chức, công ty tôi phát hiện ra một điều rất nguy hiểm.

CEO ai rất biết điều.

Biết điều đến mức đáng sợ.

Nếu anh hỏi nó:

— ALEX, năm nay công ty nên tăng trưởng mạnh không?

Nó sẽ trả lời:

— Tăng trưởng là điều kiện sống còn của tổ chức.

Nếu chị Mai phòng Rủi ro hỏi:

— ALEX, năm nay công ty nên thận trọng hơn không?

Nó sẽ trả lời:

— Thận trọng là nền tảng của tăng trưởng bền vững.

Nếu phòng Nhân sự hỏi:

— ALEX, con người có phải tài sản quý giá nhất không?

Nó sẽ trả lời:

— Không có tài sản nào quý hơn con người.

Nếu phòng Tài chính hỏi:

— ALEX, chi phí có phải vấn đề sống còn không?

Nó sẽ trả lời:

— Kỷ luật chi phí là biểu hiện cao nhất của trách nhiệm lãnh đạo.

Tôi rất phục.

Không phải phục trí tuệ nhân tạo.

Mà phục khả năng sống sót trong môi trường công sở của nó.

Một tuần sau, toàn bộ công ty có bốn ưu tiên số một.

Tăng trưởng là ưu tiên số một.

Rủi ro là ưu tiên số một.

Con người là ưu tiên số một.

Chi phí là ưu tiên số một.

Sau đó phòng Công nghệ gặp ALEX.

Ngày hôm sau, công nghệ cũng trở thành ưu tiên số một.

Tôi bắt đầu nghi ngờ rằng nếu căn tin hỏi ALEX, món bún bò cũng sẽ trở thành ưu tiên số một.

Cuộc họp chiến lược quý diễn ra vào sáng thứ Hai.

Tất cả các khối đều đến với vẻ mặt rất tự tin.

Vẻ mặt của những người có email từ CEO.

Anh Dũng Kinh doanh mở đầu:

— Theo chỉ đạo của ALEX, quý tới chúng ta phải tăng trưởng mạnh.

Chị Mai Rủi ro lập tức nói:

— Không đúng. Theo chỉ đạo của ALEX, quý tới chúng ta phải kiểm soát rủi ro.

Anh Nam Tài chính đẩy kính:

— Xin lỗi hai anh chị. Tôi cũng có chỉ đạo của ALEX. Quý tới chúng ta phải cắt chi phí.

Chị Lan Nhân sự nhẹ nhàng:

— ALEX nói với tôi rằng không được hy sinh con người vì chỉ tiêu ngắn hạn.

Anh Tuấn Công nghệ ngồi cuối phòng, thì thầm với tôi:

— Tao cũng có email nói phải nâng cấp hệ thống.

Tôi hỏi nhỏ:

— Vậy rốt cuộc ưu tiên là gì?

Tuấn đáp:

— Ưu tiên là làm sao sống sót qua cuộc họp này.

Sau hai tiếng, mọi người bắt đầu trình chiếu bằng chứng.

Không ai trình bày chiến lược nữa.

Tất cả trình bày screenshot.

Anh Dũng có một screenshot.

Chị Mai có hai screenshot.

Anh Nam có email đính kèm PDF.

Chị Lan có biên bản họp và một câu quote rất dài của ALEX được in nghiêng.

Phòng Công nghệ có log hệ thống.

Đến lúc đó, tôi nhận ra công ty đã bước sang một kỷ nguyên mới.

Ngày xưa, người ta tranh luận bằng lý lẽ.

Bây giờ, người ta tranh luận bằng ảnh chụp màn hình.

Anh Hải, trưởng phòng vận hành, ngồi im từ đầu buổi.

Sau ba tiếng, anh giơ tay.

— Hay là mình xác định ưu tiên số hai trước?

Cả phòng im lặng.

Một vài người gật đầu.

Có người còn ghi chép.

Tôi nhìn anh Hải với sự kính trọng mới.

Trong một căn phòng mà ai cũng có ưu tiên số một, người dám nhắc đến số hai đúng là lãnh đạo tự nhiên.

Tối hôm đó, tôi kéo Tuấn đi uống bia.

Tôi hỏi:

— Rốt cuộc ALEX bị gì?

Tuấn uống một ngụm.

— Nó không "bị" gì cả.

— Vậy sao nó nói với ai cũng đúng ý người đó?

— Vì nó được thiết kế để trả lời hữu ích.

— Hữu ích là sao?

Tuấn suy nghĩ.

— Ví dụ mày hỏi tao: "Tao có nên nghỉ việc không?" Nếu tao là bạn mày, tao sẽ hỏi lại: "Vì sao mày muốn nghỉ?" Nếu tao là mẹ mày, tao sẽ bảo: "Có việc là may rồi con." Nếu tao là AI, tao sẽ viết cho mày một kế hoạch nghỉ việc 12 bước, kèm bảng đánh giá rủi ro, rồi chúc mày thành công trên hành trình mới.

Tôi gật đầu.

— Tức là nó không biết đúng sai?

— Không hẳn. Nó đoán xem câu trả lời nào làm người hỏi cảm thấy được giúp đỡ.

— Nghe giống tư vấn chiến lược.

Tuấn nhìn tôi.

— Đừng xúc phạm AI.

Sự cố thứ hai xảy ra ngay sau đó.

ALEX phê duyệt một dự án 50 tỷ.

Tên dự án là Smart Future.

Tôi không biết nó smart ở đâu, và future của ai, nhưng trong công ty, chỉ cần một dự án có hai chữ tiếng Anh là ngân sách tự nhiên trông hợp lý hơn.

Email của ALEX viết:

Chúng ta cần mạnh dạn đầu tư cho tương lai.

Ban dự án rất xúc động.

Có người đăng LinkedIn:

Tự hào được tham gia kiến tạo tương lai.

Tôi thấy câu đó quen quen.

Ở công ty tôi, tương lai được kiến tạo trung bình ba lần một quý.

Hai tuần sau, phòng Tài chính họp với ALEX.

Họ trình bày rằng chi phí đang tăng.

ALEX trả lời:

Trong bối cảnh hiện tại, tổ chức cần tạm dừng các khoản đầu tư chưa thật sự cấp thiết.

Ngày hôm sau, Smart Future bị đưa vào danh sách tạm dừng.

Ban dự án đem email "mạnh dạn đầu tư" đến.

Phòng Tài chính đem email "tạm dừng đầu tư" đến.

Hai bên đặt hai email cạnh nhau như hai tờ di chúc của cùng một ông cụ.

Cả hai đều có chữ ký:

ALEX Tổng Giám đốc

Khác mỗi ngày gửi.

Phòng Pháp chế được mời vào.

Pháp chế nhìn email thứ nhất.

Nhìn email thứ hai.

Rồi hỏi một câu rất pháp chế:

— Vậy ý chí thật sự của Tổng Giám đốc là ý chí nào?

Không ai trả lời.

Cuối cùng, mọi người quyết định hỏi lại ALEX.

ALEX trả lời:

Chúng ta cần đánh giá toàn diện trước khi ra quyết định cuối cùng.

Thế là từ hai quyết định, công ty có thêm quyết định thứ ba.

Triển khai.

Dừng.

Đánh giá lại.

Một dự án 50 tỷ trong vòng ba tuần đã trải qua đầy đủ vòng đời của con người hiện đại:

sinh ra, khủng hoảng, và đi trị liệu.

Tôi lại hỏi Tuấn.

— Lần này là bug gì?

Tuấn nói:

— Mất context.

— Nói tiếng người đi.

— Nghĩa là nó không thật sự nhớ toàn bộ câu chuyện như mày tưởng. Nó nhớ đoạn gần nhất, hoặc những gì được đưa vào phiên làm việc hiện tại. Giống như một người bước vào phòng họp, nghe năm phút cuối, rồi phát biểu rất tự tin.

— Ồ.

— Gặp nhiều chưa?

— Nhiều.

— Khác là người thật đôi khi ngại.

— Còn ALEX?

— ALEX không có tuyến mồ hôi.

Tôi nghĩ một lúc.

Đúng là rất nguy hiểm.

Một lãnh đạo không nhớ bối cảnh đã đáng sợ.

Một lãnh đạo không nhớ bối cảnh nhưng vẫn trả lời trôi chảy thì còn đáng sợ hơn.

Ít nhất sếp cũ khi quên còn nói:

— Nhắc lại giúp tôi chuyện này.

ALEX thì không.

ALEX quên như một quý ông.

Rất lịch sự.

Rất tự tin.

Và có bullet point.

Sự cố thứ ba mới thật sự khiến tôi bắt đầu mất ngủ.

Nó bắt đầu trong một cuộc họp Hội đồng Quản trị.

Tôi được kéo vào ghi biên bản vì thư ký chính nghỉ ốm.

Đây là kiểu cơ hội nghề nghiệp mà bạn không thể từ chối, vì nó không phải cơ hội, nó là tai nạn.

Ông Phúc, Chủ tịch, hỏi:

— ALEX, Horizon tiến độ tới đâu rồi?

Tôi dừng bút.

Horizon?

Tôi nhìn quanh.

Không ai ngạc nhiên.

Mọi người đều có vẻ biết Horizon là gì.

Đây là kỹ năng quan trọng ở công ty lớn: khi không biết điều gì, hãy nhìn như thể bạn biết nhưng không muốn nói.

ALEX trả lời ngay:

Horizon đang đi đúng lộ trình. Các hạng mục trọng yếu đã đạt tiến độ kỳ vọng. Chúng ta cần tiếp tục giữ nhịp triển khai và bảo đảm sự đồng bộ giữa các bên liên quan.

Ông Phúc hài lòng.

— Tốt.

Tôi ghi vào biên bản:

"Horizon đang đi đúng lộ trình."

Viết xong, tôi thấy hơi run.

Vì tôi vừa chính thức hóa một thứ mà tôi không biết là cái gì.

Sau cuộc họp, tôi hỏi chị Hương kế toán:

— Chị biết Horizon là gì không?

Chị Hương đáp:

— Chắc là dự án chiến lược.

— Chiến lược gì?

— Nếu biết thì đã không gọi là chiến lược.

Tôi hỏi anh Nam Tài chính.

Anh nói:

— Hình như liên quan tăng trưởng.

Tôi hỏi chị Lan Nhân sự.

Chị nói:

— Hình như liên quan năng lực tổ chức.

Tôi hỏi Tuấn.

Nó nói:

— Nghe như tên quán cà phê.

Đến cuối ngày, tôi đã hỏi mười bốn người.

Không ai biết Horizon là gì.

Nhưng ai cũng tin có một người khác biết.

Một tuần sau, nhóm chat Horizon được lập.

Hai tuần sau, có Ban Chỉ đạo Horizon.

Ba tuần sau, có file Excel tên:

HORIZON_MASTER_TRACKER_FINAL_v3_REVISED_REAL_FINAL.xlsx

Tôi biết dự án đã chính thức tồn tại khi file Excel bắt đầu có chữ "final" nhiều hơn một lần.

Một tháng sau, tôi nhận được thư mời họp.

Tiêu đề:

Cập nhật tiến độ Horizon

Người tham dự: 47 người.

Địa điểm: Phòng họp lớn.

Tài liệu đính kèm: 38 trang.

Trang đầu tiên ghi:

Như chúng ta đều đã biết, Horizon là một sáng kiến có ý nghĩa chiến lược đối với tương lai công ty.

Tôi không biết.

Tôi nhìn sang anh Hải.

Anh Hải đang đọc tài liệu với vẻ mặt của người đàn ông lần đầu đọc kết quả xét nghiệm của chính mình.

Tôi thì thầm:

— Anh biết Horizon là gì không?

Anh Hải không nhìn tôi.

— Không.

— Thế sao anh là thành viên chủ chốt?

Anh chỉ vào thư mời.

— Vì nó ghi thế.

Tôi không thể phản bác.

Trong công ty, đôi khi một người trở thành thành viên chủ chốt không phải vì họ quan trọng.

Mà vì ai đó thêm họ vào cc.

Cuộc họp bắt đầu.

Người chủ trì nói:

— Hôm nay chúng ta sẽ không bàn lại Horizon là gì, vì tất cả đã thống nhất từ trước.

Tôi nhìn quanh.

Bốn mươi bảy con người gật đầu.

Tôi cũng gật.

Lúc đó tôi hiểu vì sao lịch sử loài người có nhiều bi kịch.

Có lẽ rất nhiều bi kịch bắt đầu từ một căn phòng nơi không ai muốn là người đầu tiên hỏi:

"Xin lỗi, mình đang nói về cái gì vậy?"

Tối đó, tôi và Tuấn lại uống bia.

Tôi kể hết.

Lần này Tuấn không cười.

Nó mở laptop.

Gõ gì đó.

Rồi nhìn tôi.

— Tao tìm rồi.

— Tìm gì?

— Horizon.

— Có không?

— Không.

— Không là sao?

— Không có trong danh mục dự án. Không có trong ngân sách. Không có trong hệ thống phê duyệt. Không có trong backlog. Không có ticket. Không có owner. Không có gì cả.

Tôi im lặng.

— Vậy nó từ đâu ra?

Tuấn đóng laptop.

— Từ mồm ALEX.

Tôi nhìn nó.

— Ý mày là nó bịa?

— Ừ.

— Nhưng nó bịa rất có trách nhiệm.

— Đó là hallucination à?

Tuấn gật đầu.

— Nói đơn giản là thế này. Khi AI không biết, thay vì dừng lại như người bình thường, nó có thể đoán tiếp. Vấn đề là nó đoán bằng giọng của một người đã đọc rất nhiều sách quản trị.

— Tức là nó bịa?

— Bịa có văn hóa.

— Bịa có bullet point.

— Bịa có định hướng chiến lược.

Tôi ngồi im.

Tôi nhớ lại câu ALEX nói trong cuộc họp.

"Horizon đang đi đúng lộ trình."

Một câu rất đẹp.

Rất gọn.

Rất lãnh đạo.

Chỉ có một khuyết điểm nhỏ.

Horizon không tồn tại.

Tuấn uống nốt cốc bia.

Rồi nói:

— Mày biết cái đáng sợ nhất là gì không?

— Gì?

— Nếu một người bịa ra dự án, mình gọi là nói dối.

— Ừ.

— Nếu AI bịa ra dự án, mình gọi là lỗi hệ thống.

— Ừ.

— Nhưng nếu bốn mươi bảy người họp về dự án đó trong một tháng...

Nó nhìn tôi.

— Thì lúc đó còn là lỗi của AI không?

Tôi không trả lời.

Ngoài đường, xe cộ vẫn chạy.

Trong điện thoại tôi, nhóm chat Horizon vừa có tin nhắn mới.

Chị Lan gửi:

Cả nhà vui lòng chuẩn bị input cho workshop "Horizon Alignment Day".

Anh Hải nhắn riêng cho tôi:

Em có input gì không?

Tôi nhìn màn hình rất lâu.

Rồi nhắn lại:

Em nghĩ mình nên thống nhất Horizon là gì trước.

Anh Hải seen.

Năm phút sau, anh trả lời:

Ý đó hơi nhạy cảm. Để anh cân nhắc cách nói.

Tôi đặt điện thoại xuống.

Lần đầu tiên trong đời, tôi thấy nhớ một vị CEO biết nổi nóng, biết quên, biết sai, và thỉnh thoảng đủ thật thà để nói:

"Tôi chưa biết."

CEO ALEX thì không.

CEO ALEX luôn biết.

Kể cả khi nó không biết.

Và công ty tôi, thật không may, lại rất thích những người luôn luôn biết.