Giám đốc điều hành của Palantir, Alex Karp, đã sai khi đánh giá về mối đe dọa mà Anthropic và OpenAI gây ra cho hầu hết các doanh nghiệp. Điều đó không có nghĩa là ông ấy không có gì để mất.

Xin chào và chào mừng đến với Eye on AI. Trong số này:

• Tại sao CEO của Palantir, Alex Karp, lại sai về các phòng thí nghiệm AI tiên phong.
• Mã độc tống tiền tự trị đã xuất hiện, một công ty an ninh mạng tuyên bố.
• Trung Quốc xem xét hạn chế quyền truy cập của nước ngoài vào các mô hình AI hàng đầu.
• Anthropic phát hiện một phần chức năng của LLMs hoạt động giống như một khía cạnh của ý thức con người.
• Các tiêu chuẩn an toàn AI đang bị suy giảm, báo cáo cho biết.

Tuần này, chúng tôi có một số tin tức thú vị ngay tại Fortune. Chúng tôi đang ra mắt một vodcast hoàn toàn mới có tên Fortune AI Weekly, do tôi đồng dẫn chương trình cùng Bea Nolan. Bạn có thể coi nó như một phần mở rộng của những gì chúng tôi làm tại Eye on AI—mang đến cho bạn những suy nghĩ của chúng tôi về những tin tức AI lớn nhất trong tuần, nêu bật một số bài viết tuyệt vời về AI của Fortune, và đôi khi mang đến cho bạn các cuộc phỏng vấn độc quyền với những nhà xây dựng, nhà tư tưởng, nhà sáng lập, nhà đầu tư và lãnh đạo AI chủ chốt. Bạn có thể xem vodcast trên kênh YouTube của chúng tôi tại đây.
***
Một trong những tin tức AI gây chú ý trên các trang nhất tuần trước là lời chỉ trích của Alex Karp đối với các công ty mô hình nền tảng. CEO của Palantir đã xuất hiện trên CNBC vào thứ Tư, bề ngoài là để thảo luận về quan hệ đối tác mới giữa Palantir và Nvidia nhằm cung cấp “cơ sở hạ tầng AI có chủ quyền” cho chính phủ Hoa Kỳ và các ngành công nghiệp then chốt. Sự hợp tác này liên quan đến việc sử dụng các mô hình nguồn mở Nemotron của Nvidia cùng với Nền tảng Trí tuệ Nhân tạo (AIP) của Palantir, một lớp ứng dụng kết nối các mô hình đó với dữ liệu, đồng thời cung cấp bảo mật và quản trị dữ liệu. Nhưng đó không phải là điều đã trở thành tiêu đề. Thay vào đó, sau khi mở đầu bằng câu nói “tôi không công kích” OpenAI và Anthropic, Karp đã ném bóng đen ở mức độ Mordor vào các phòng thí nghiệm AI tiên phong.
“Có điều gì đó đã hoàn toàn sai lầm,” ông nói. “Quan điểm cơ bản giữa các doanh nghiệp trong quốc gia này là ‘Tôi sẽ thư giãn và lãng phí thời gian với token, tôi sẽ không nhận được giá trị nào, và họ sẽ lấy IP của tôi.'” Sau đó, ông nói rằng đây không phải là sự công kích mà là “báo cáo.” Ông nhấn mạnh nhiều lần vào những điểm này, nói rằng các công ty không nhận được giá trị từ các token họ mua từ các phòng thí nghiệm tiên phong và rằng họ đang mạo hiểm chuyển giao IP kinh doanh quan trọng của mình cho các nhà cung cấp AI này.
Vậy Karp có đúng không? Chà, cũng có phần. Nhưng chỉ nếu bạn nhìn kỹ. Và phần lớn những gì Karp nói là vì lợi ích cá nhân, không chính xác hoặc mâu thuẫn—hoặc cả ba.

ROI đang chậm lại, nhưng không ai ‘thư giãn’ về điều đó

Đúng là nhiều công ty lớn lo lắng rằng họ chưa thấy đủ lợi nhuận từ việc triển khai AI và đang băn khoăn về chi phí token, đặc biệt khi sử dụng các mô hình AI tiên tiến nhất trong các trường hợp sử dụng tác nhân. (Việc nhiều công ty lớn quan tâm đến điều này mâu thuẫn với tuyên bố của Karp rằng họ chỉ đơn giản là “thư giãn.”) Nhưng chắc chắn một số công ty đang báo cáo giá trị—đặc biệt là trong phát triển phần mềm và dịch vụ khách hàng. Và, đối với những công ty không làm được điều đó, thường là vì họ chưa ưu tiên các trường hợp sử dụng thiết yếu nhất về mặt chiến lược hoặc chưa tìm ra cách tái cấu trúc quy trình làm việc trên toàn công ty để tận dụng tốt nhất công nghệ.
Tại một thời điểm trong cuộc phỏng vấn trên CNBC, Karp nói “tại sao họ lại tính phí token, nếu nó có giá trị như vậy?” Ông gợi ý rằng nếu các mô hình nền tảng hoạt động tốt như các nhà cung cấp mô hình AI tuyên bố, thì tốt hơn hết là nên đề xuất hoàn thành toàn bộ nhiệm vụ cho khách hàng và tính phí theo tỷ lệ phần trăm giá trị thu được. Trên thực tế, đây là cách Palantir định giá các sản phẩm của mình (vì vậy có phần vì lợi ích cá nhân). Và đây cũng là điều mà nhiều công ty tư vấn bán dịch vụ AI đang bắt đầu làm. Nhưng chắc chắn đây không phải là cách phần mềm truyền thống được định giá. Cũng ít hợp lý khi một công nghệ đa dụng sử dụng mô hình kinh doanh dựa trên giá trị. Xét cho cùng, công ty điện lực tính phí bạn cho mỗi đơn vị điện bạn sử dụng, chứ không phải cho giá trị của những gì bạn làm với các electron đó. Microsoft, ví dụ, tính phí bạn một khoản cố định để sử dụng Microsoft Word và Excel—họ không cố gắng tính phí bạn một tỷ lệ phần trăm của thỏa thuận bạn thắng được vì bài thuyết trình PowerPoint của bạn gây ấn tượng trong cuộc họp chào hàng.
Hơn nữa, nếu Karp nói rằng một trong những khiếu nại chính của các doanh nghiệp đối với các phòng thí nghiệm AI tiên phong là họ đang “đánh cắp alpha” (tức là đánh cắp kiến thức chuyên môn mang lại lợi thế cạnh tranh cho doanh nghiệp), thì điều đó thậm chí còn đáng lo ngại hơn với mô hình kinh doanh trong đó các công ty AI thực hiện nhiệm vụ cho khách hàng thay vì bán token cho họ. (Đây là một điều mâu thuẫn khác mà ông ấy đã nói.) Một số công ty tư vấn và một số nhà cung cấp đám mây có cung cấp dịch vụ quản lý cho khách hàng—nhưng khách hàng thường chỉ sẵn sàng thuê ngoài các nhiệm vụ mà họ coi là không cốt lõi đối với hoạt động kinh doanh của mình.

Ít bằng chứng về việc các phòng thí nghiệm AI ‘đánh cắp alpha’

Về lập luận của Karp rằng các phòng thí nghiệm tiên phong đang đánh cắp IP từ khách hàng, không có bằng chứng cho thấy điều này đúng theo nghĩa đen, ít nhất là không theo cách Karp dường như ám chỉ. Tất cả các nhà cung cấp AI hàng đầu đều có chính sách nói rằng họ không có quyền truy cập trực tiếp vào prompt, đầu ra hoặc dữ liệu của khách hàng doanh nghiệp và họ không sử dụng các tương tác này để đào tạo các mô hình tương lai, trừ khi những khách hàng đó cụ thể chọn tham gia cho phép nhà cung cấp làm như vậy. (Sẽ nói thêm về trường hợp đặc biệt đó trong giây lát.)

Cả OpenAI và Anthropic đều nói về việc sử dụng dữ liệu khách hàng đã ẩn danh và loại bỏ định danh để tiến hành nghiên cứu kinh tế về cách các mô hình của họ đang được sử dụng, nhưng ngay cả điều này cũng chỉ được thực hiện đối với lưu lượng tin nhắn đến các dịch vụ hướng tới người tiêu dùng của họ hoặc API trực tiếp của họ, chứ không phải cho khách hàng truy cập các mô hình thông qua các dịch vụ đám mây an toàn, chẳng hạn như Microsoft Azure, Amazon Bedrock hoặc Google Vertex—đây là cách hầu hết các doanh nghiệp lớn truy cập các mô hình này.
Vì vậy, đối với hầu hết các doanh nghiệp lớn, đặc biệt là hầu hết các doanh nghiệp lớn không thuộc lĩnh vực công nghệ, những gì Karp tuyên bố là vô lý. Nếu bạn là Archer-Daniels-Midland hoặc Boeing, khả năng Anthropic đánh cắp IP của bạn và bắt đầu sản xuất ngô hoặc chế tạo máy bay phản lực cỡ lớn là rất thấp.

Tuy nhiên, một vài công ty có lý do để lo lắng—Palantir là một trong số đó

Nhưng có một nhóm doanh nghiệp mà Karp có thể có lý. Anthropic, OpenAI và Google DeepMind đều có “đối tác thiết kế” trong các ngành khác nhau, và các đối tác này thường được truy cập sớm để giúp kiểm tra các mô hình mới nhất mà các phòng thí nghiệm AI này đang phát triển. Và như một phần của các quan hệ đối tác đó, các phòng thí nghiệm thường có quyền truy cập nhiều hơn vào thông tin về cách các doanh nghiệp đó đang sử dụng các mô hình.
Đã có ít nhất một trường hợp mà quyền truy cập đó có thể đã được một trong các phòng thí nghiệm AI sử dụng để xây dựng một sản phẩm cạnh tranh. Trường hợp đó liên quan đến Anthropic và Figma. Như The Information đưa tin lần đầu vào tháng trước, Anthropic đã hợp tác với cả Figma và Canva trong quá trình phát triển công cụ Claude for Design. Mike Kreiger, giám đốc sản phẩm của Anthropic, thậm chí còn có một ghế trong hội đồng quản trị của Figma. Nhưng sau đó Figma đã rút khỏi vụ ra mắt và Kreiger đột ngột từ chức khỏi hội đồng quản trị sau khi Figma phát hiện ra rằng sản phẩm mà Anthropic đang xây dựng cạnh tranh trực tiếp hơn nhiều với các tính năng sản phẩm của chính họ so với những gì Anthropic, ít nhất là theo quan điểm của Figma, đã tiết lộ. Theo báo cáo của The Information, CEO của Figma, Dylan Field, đã nói với những người tham dự tại một sự kiện riêng do Sequoia Capital tổ chức rằng Anthropic “không luôn trung thực trong giao tiếp” với Figma về phạm vi của công cụ thiết kế Claude.

Các trường hợp được cho là khác về việc các nhà cung cấp AI sử dụng quyền truy cập vào dữ liệu khách hàng để sau đó cạnh tranh với những khách hàng đó đến từ các nguồn có hiềm khích—nhiều người trong số họ là nhà đầu tư vào Palantir. Nhà đầu tư mạo hiểm Jason Calacanis, một nhà hậu thuẫn sớm của Palantir, đã cáo buộc rằng Anthropic đã sử dụng dữ liệu từ Cursor, một trợ lý lập trình AI là người dùng nặng của các mô hình Claude của Anthropic, để giúp phát triển Claude Code, sản phẩm viral của Anthropic sau đó đã vượt xa Cursor về mức độ phổ biến. Nhà đầu tư mạo hiểm Chamath Palihapitiya đã chỉ ra rằng Anthropic đã hợp tác với Eli Lilly và các công ty dược phẩm khác, trước khi gần đây nói rằng họ dự định bắt đầu chương trình phát triển thuốc của riêng mình. (Anthropic đã mô tả điều này như một cách để trau dồi các công cụ Claude of Science của riêng họ và không rõ liệu Anthropic có cố gắng thương mại hóa bất kỳ ứng viên thuốc nào hay sẽ hợp tác với một công ty dược phẩm cho phần đó của quy trình hay không.) Ngoài việc là nhà đầu tư sớm vào Palantir, Palihapitiya còn là đồng dẫn chương trình podcast “All In” cùng David Sacks, người cũng không mấy thiện cảm với Anthropic.
Tuy nhiên, lời buộc tội rằng Anthropic dự định thực sự tham gia trực tiếp vào tất cả các lĩnh vực dọc này, thay vì chỉ đơn giản là xây dựng các công cụ giúp triển khai các mô hình của họ vào các lĩnh vực dọc này dễ dàng hơn—điều này hầu như không giống nhau—có vẻ cường điệu. Một lần nữa, nếu bạn là hầu hết các công ty Fortune 500, Anthropic hoặc OpenAI sẽ không bắt đầu cạnh tranh trực diện với bạn.
Trên thực tế, ví dụ điển hình nhất về việc các phòng thí nghiệm AI tiên phong đánh cắp dữ liệu để xây dựng một sản phẩm cạnh tranh đến từ chính ngành của tôi, ngành truyền thông. Tại đây, các phòng thí nghiệm AI tiên phong chắc chắn đã thu thập khối lượng lớn tài liệu có bản quyền để đào tạo các mô hình AI thường cạnh tranh trực tiếp với các ấn phẩm với tư cách là nguồn thông tin thực tế. (Điều tương tự cũng có thể nói về xuất bản, âm nhạc và mỹ thuật.) Nhưng bằng cách nào đó, tôi không nghĩ đó là điều Karp muốn nói đến.
Một người bạn trong ngành tài chính gợi ý rằng điều thực sự khiến Karp khó chịu—cũng như khiến một số giám đốc điều hành thường điềm tĩnh hơn, chẳng hạn như Satya Nadella của Microsoft, người thú vị là gần đây cũng đưa ra một số tuyên bố tương tự về bản chất tham lam của các phòng thí nghiệm AI tiên phong—không phải là mô hình kinh doanh của Anthropic và OpenAI, mà là các đợt IPO tiềm năng của họ. Những đợt IPO đó chắc chắn sẽ có nhu cầu cao. Và để huy động thanh khoản cần thiết để mua cổ phiếu của OpenAI hoặc Anthropic, các nhà đầu tư tổ chức có thể tìm cách bán các mã công nghệ khác—các mã công nghệ như, à, Palantir. Hãy nhớ rằng chỉ vì bạn hoang tưởng, không có nghĩa là họ không nhắm vào bạn.
Với điều đó, dưới đây là thêm tin tức AI.
Jeremy Kahn
jeremy.kahn@fortune.com
@jeremyakahn

Bài viết này ban đầu được đăng trên Fortune.com