مدیرعامل پالانتیر، الکس کارپ، در مورد تهدیدی که آنتروپیک و اوپن‌ای‌آی برای اکثر شرکت‌ها ایجاد می‌کنند، اشتباه می‌کند. این بدان معنا نیست که او چیزی برای از دست دادن ندارد.

سلام و به «نگاهی به هوش مصنوعی» خوش آمدید. در این شماره:

• چرا الکس کارپ، مدیرعامل پالانتیر، در مورد آزمایشگاه‌های پیشرو هوش مصنوعی اشتباه می‌کند.
• یک شرکت امنیت سایبری ادعا می‌کند که باج‌افزارهای خودمختار از راه رسیده‌اند.
• چین محدود کردن دسترسی خارجی‌ها به مدل‌های برتر هوش مصنوعی را در نظر دارد.
• آنتروپیک دریافت که بخشی از عملکرد مدل‌های زبانی بزرگ (LLMs) شبیه به جنبه‌ای از آگاهی انسان است.
• گزارش‌ها حاکی از آن است که استانداردهای ایمنی هوش مصنوعی در حال لغزش هستند.

این هفته، ما اخبار هیجان‌انگیزی در فورچون داریم. ما یک وادکست کاملاً جدید به نام Fortune AI Weekly را راه‌اندازی می‌کنیم که من آن را همراه با بی نولان میزبانی می‌کنم. می‌توانید آن را تا حدی امتدادی از کاری بدانیم که اینجا در «نگاهی به هوش مصنوعی» انجام می‌دهیم—ارائه نظراتمان درباره مهم‌ترین اخبار هوش مصنوعی هفته، برجسته کردن برخی از گزارش‌های عالی فورچون در زمینه هوش مصنوعی، و گاهی ارائه مصاحبه‌های انحصاری با سازندگان کلیدی، متفکران، بنیان‌گذاران، سرمایه‌گذاران و رهبران هوش مصنوعی. می‌توانید وادکست را در کانال یوتیوب ما اینجا مشاهده کنید.
***
در میان اخبار هوش مصنوعی که هفته گذشته تیترها را به خود اختصاص داد، انتقاد شدید الکس کارپ علیه شرکت‌های مدل‌های پایه بود. مدیرعامل پالانتیر روز چهارشنبه در CNBC ظاهر شد تا ظاهراً درباره مشارکت جدید بین پالانتیر و انویدیا برای ارائه «زیرساخت هوش مصنوعی حاکمیتی» به دولت آمریکا و صنایع حیاتی صحبت کند. این همکاری شامل استفاده از مدل‌های متن‌باز Nemotron انویدیا به همراه پلتفرم هوش مصنوعی (AIP) پالانتیر است که لایه‌ای کاربردی برای اتصال آن مدل‌ها به داده‌هاست و همچنین امنیت و حاکمیت داده‌ها را ارائه می‌دهد. اما این چیزی نبود که در نهایت تیترها را ساخت. بلکه، پس از مقدمه‌چینی با گفتن اینکه «من قصد تخریب ندارم» نسبت به OpenAI و Anthropic، کارپ شروع به پرتاب سایه‌هایی در سطح موردور به سمت آزمایشگاه‌های پیشرو هوش مصنوعی کرد.
او گفت: «چیزی کاملاً اشتباه شده است.» «دیدگاه اساسی среди شرکت‌ها در این کشور این است که 'من آرام خواهم نشست و وقت خود را با توکن‌ها هدر می‌دهم، هیچ ارزشی دریافت نمی‌کنم و آن‌ها مالکیت معنوی (IP) من را تصاحب خواهند کرد.'» سپس گفت که این تخریب نیست، بلکه «گزارش‌گری» است. او چندین بار بر این نکات تأکید کرد و گفت که شرکت‌ها هیچ ارزشی از توکن‌هایی که از آزمایشگاه‌های پیشرو خریداری می‌کنند، دریافت نمی‌کنند و خطر انتقال مالکیت معنوی تجاری حیاتی خود به این فروشندگان هوش مصنوعی را می‌پذیرند.
آیا کارپ نکته درستی دارد؟ خب، تا حدی. اما فقط اگر با دقت نگاه کنید. و بسیاری از آنچه کارپ گفت یا خودخدمتی، نادرست یا متناقض بود—یا هر سه.

نرخ بازگشت سرمایه عقب است، اما کسی در این مورد «آرام» نیست

درست است که بسیاری از شرکت‌های بزرگ نگران هستند که هنوز بازگشت سرمایه کافی از استقرار هوش مصنوعی مشاهده نمی‌کنند و درباره هزینه توکن‌ها نگران هستند، به ویژه هنگام استفاده از پیشرفته‌ترین مدل‌های هوش مصنوعی در موارد استفاده عامل‌محور. (این واقعیت که بسیاری از شرکت‌های بزرگ نگران این موضوع هستند، با ادعای کارپ مبنی بر اینکه آن‌ها صرفاً «آرام» نشسته‌اند، در تضاد است.) اما قطعاً برخی شرکت‌ها ارزش را گزارش می‌کنند—به ویژه در توسعه نرم‌افزار و خدمات مشتری. و برای کسانی که چنین نیستند، اغلب به این دلیل است که آن‌ها موارد استفاده استراتژیک ضروری را اولویت‌بندی نکرده‌اند یا نحوه مهندسی مجدد گردش کار خود در سراسر شرکت را برای بهره‌برداری حداکثری از فناوری کشف نکرده‌اند.
در یکی از نقاط مصاحبه CNBC، کارپ گفت: «اگر توکن‌ها اینقدر ارزشمند هستند، چرا بابت آن‌ها هزینه دریافت می‌کنند؟» او پیشنهاد کرد که اگر مدل‌های پایه به خوبی که فروشندگان مدل هوش مصنوعی ادعا می‌کنند کار کنند، بهتر است پیشنهاد تکمیل یک وظیفه کامل برای مشتری را بدهند و درصدی از ارزش حاصله را دریافت کنند. این در واقع همان روشی است که پالانتیر محصولات خود را قیمت‌گذاری می‌کند (بنابراین بخش خودخدمتی اینجاست). و این کاری است که بسیاری از شرکت‌های مشاوره‌ای که خدمات هوش مصنوعی می‌فروشند اکنون شروع به انجام آن کرده‌اند. اما قطعاً این روش سنتی قیمت‌گذاری نرم‌افزار نیست. همچنین استفاده از مدل کسب‌وکار مبتنی بر ارزش برای یک فناوری همه‌منظوره چندان منطقی نیست. بعد از همه، شرکت برق بابت هر واحد الکتریسیته‌ای که مصرف می‌کنید از شما هزینه دریافت می‌کند، نه بابت ارزش کاری که با آن الکترون‌ها انجام می‌دهید. مایکروسافت هم برای استفاده از Microsoft Word و Excel مبلغ مشخصی از شما دریافت می‌کند—سعی نمی‌کند درصدی از معامله‌ای که برنده شده‌اید را چون اسلاید پاورپوینت شما در جلسه ارائه تأثیرگذار بوده، از شما بگیرد.
علاوه بر این، اگر کارپ می‌گوید یکی از شکایت‌های اصلی شرکت‌ها درباره آزمایشگاه‌های پیشرو هوش مصنوعی این است که آن‌ها «آلفا را می‌دزدند» (یعنی دانشی را می‌دزدند که به کسب‌وکار مزیت رقابتی می‌دهد)، این در مدل کسب‌وکاری که در آن شرکت‌های هوش مصنوعی وظایف را برای مشتریان انجام می‌دهند به جای فروش توکن به آن‌ها، حتی بیشتر نگران‌کننده خواهد بود. (این یکی دیگر از موارد متناقضی است که او گفت.) برخی شرکت‌های مشاوره‌ای و برخی ارائه‌دهندگان ابری خدمات مدیریت‌شده برای مشتریان ارائه می‌دهند—اما مشتریان معمولاً فقط مایل به برون‌سپاری وظایفی هستند که آن‌ها را غیرهسته‌ای برای کسب‌وکار خود می‌بینند.

شواهد کمی از «دزدیدن آلفا» توسط آزمایشگاه‌های هوش مصنوعی وجود دارد

در مورد استدلال کارپ مبنی بر اینکه آزمایشگاه‌های پیشرو مالکیت معنوی (IP) را از مشتریان می‌دزدند، هیچ شواهدی وجود ندارد که این به صورت تحت‌اللفظی درست باشد، حداقل نه به شیوه‌ای که کارپ به نظر می‌رسید پیشنهاد می‌کرد. تمام فروشندگان برتر هوش مصنوعی سیاست‌هایی دارند که می‌گویند آن‌ها دسترسی مستقیم به پرامپت‌ها، خروجی‌ها یا داده‌های مشتریان سازمانی ندارند و از این تعاملات برای آموزش مدل‌های آینده استفاده نمی‌کنند، مگر اینکه آن مشتریان به طور خاص اجازه دهند فروشنده این کار را انجام دهد. (درباره آن مورد خاص لحظه‌ای بعد بیشتر توضیح خواهیم داد.)

هم OpenAI و هم Anthropic درباره استفاده از داده‌های ناشناس و هویت‌زدایی‌شده مشتریان برای انجام تحقیقات اقتصادی درباره نحوه استفاده از مدل‌هایشان صحبت می‌کنند، اما حتی این کار فقط برای ترافیک پیام‌رسانی که وارد خدمات رو به مصرف‌کننده یا APIهای مستقیم آن‌ها می‌شود انجام می‌شود، و نه برای مشتریانی که از طریق خدمات ابری امن مانند Microsoft Azure، Amazon Bedrock یا Google Vertex به مدل‌ها دسترسی پیدا می‌کنند—که روشی است که اکثر شرکت‌های بزرگ به این مدل‌ها دسترسی دارند.
بنابراین، برای اکثر کسب‌وکارهای بزرگ، به ویژه اکثر کسب‌وکارهای بزرگی که خودشان در بخش فناوری نیستند، ادعای کارپ بی‌معنی است. اگر شما Archer-Daniels-Midland یا Boeing هستید، احتمال کمی وجود دارد که Anthropic مالکیت معنوی شما را بدزدد و شروع به تولید ذرت یا ساخت جت‌های غول‌پیکر کند.

با این حال، چند شرکت دلیل نگرانی دارند—پالانتیر یکی از آن‌هاست

اما دسته‌ای از کسب‌وکارها وجود دارند که کارپ ممکن است در مورد آن‌ها نکته درستی داشته باشد. Anthropic، OpenAI و Google DeepMind همگی «شریک طراحی» در صنایع مختلف دارند و این شرکا اغلب دسترسی اولیه برای کمک به آزمایش آخرین مدل‌هایی که این آزمایشگاه‌های هوش مصنوعی روی آن‌ها کار می‌کنند، دریافت می‌کنند. و به عنوان بخشی از آن مشارکت‌ها، آزمایشگاه‌ها اغلب دسترسی بسیار بیشتری به اطلاعات درباره نحوه استفاده آن شرکت‌ها از مدل‌ها دارند.
حداقل یک مورد وجود داشته است که در آن این دسترسی ممکن است توسط یکی از آزمایشگاه‌های هوش مصنوعی برای ساخت یک محصول رقیب استفاده شده باشد. آن مورد شامل Anthropic و Figma است. همانطور که The Information ماه گذشته ابتدا گزارش داد، Anthropic با هر دو Figma و Canva بر روی توسعه ابزار Claude for Design همکاری می‌کرد. مایک کریگر، مدیر ارشد محصول Anthropic، حتی جایگاهی در هیئت مدیره Figma داشت. اما سپس Figma از راه‌اندازی خارج شد و کریگر ناگهان از هیئت مدیره کناره‌گیری کرد پس از اینکه Figma کشف کرد محصولی که Anthropic می‌ساخت بسیار مستقیم‌تر با ویژگی‌های محصول خودش رقابت می‌کرد تا آنچه Anthropic، حداقل از دیدگاه Figma، نشان داده بود. طبق گزارش‌های The Information، دیلان فیلد، مدیرعامل Figma، به شرکت‌کنندگان در یک رویداد خصوصی میزبانی شده توسط Sequoia Capital گفت که Anthropic «در ارتباطات خود با Figma درباره دامنه ابزار طراحی Claude همیشه صادق نبوده است.»

سایر موارد فرضی فروشندگان هوش مصنوعی که از دسترسی به داده‌های مشتری برای رقابت با آن مشتریان استفاده می‌کنند، از منابعی می‌آید که حساب‌های تسویه نشده دارند—بسیاری از آن‌ها سرمایه‌گذاران در پالانتیر هستند. جیسون کالاکانیس، سرمایه‌گذار خطرپذیر و حامی اولیه پالانتیر، ادعا کرده است که Anthropic از داده‌های Cursor، یک دستیار کدنویسی هوش مصنوعی که کاربر سنگین مدل‌های Claude Anthropic بود، برای کمک به توسعه Claude Code، محصول ویروسی Anthropic که سپس از نظر محبوبیت تا حد زیادی Cursor را تحت‌الشعاع قرار داد، استفاده کرده است. چامات پالیهاپیتیا، سرمایه‌گذار خطرپذیر، اشاره کرده است که Anthropic با Eli Lilly و سایر شرکت‌های داروسازی شریک شد، قبل از اینکه اخیراً بگوید قصد دارد برنامه توسعه داروی خود را آغاز کند. (Anthropic این را به عنوان راهی برای صیقل دادن ابزارهای Claude of Science خود توصیف کرده است و مشخص نیست که آیا Anthropic سعی خواهد کرد هرگونه نامزد دارویی را خودش تجاری‌سازی کند یا با یک شرکت داروسازی برای آن بخش از فرآیند شریک خواهد شد.) علاوه بر اینکه پالیهاپیتیا یک سرمایه‌گذار اولیه پالانتیر است، او میزبان مشترک پادکست «All In» با دیوید ساکس است که او نیز علاقه‌ای به Anthropic ندارد.
با این حال، اتهام اینکه Anthropic قصد دارد واقعاً مستقیماً وارد تمام این حوزه‌های عمودی شود، به جای اینکه صرفاً ابزارهایی بسازد که استقرار مدل‌هایشان را در این حوزه‌ها آسان‌تر کند—که به هیچ وجه یکسان نیست—بعید به نظر می‌رسد. دوباره، اگر شما اکثر شرکت‌های Fortune 500 هستید، Anthropic یا OpenAI قرار نیست سر به سر با شما رقابت کنند.
در واقع، بهترین نمونه از آزمایشگاه‌های پیشرو هوش مصنوعی که داده‌ها را می‌دزدند تا یک محصول رقیب بسازند، از صنعت خودم، یعنی کسب‌وکار رسانه‌ای، می‌آید. در اینجا آزمایشگاه‌های پیشرو هوش مصنوعی قطعاً حجم عظیمی از مواد دارای حق کپی‌رایت را برای آموزش مدل‌های هوش مصنوعی جمع‌آوری کرده‌اند که اغلب مستقیماً با نشریات به عنوان منابع اطلاعات واقعی رقابت می‌کنند. (همین مطلب را می‌توان درباره انتشارات، موسیقی و هنرهای زیبا نیز گفت.) اما به نوعی فکر نمی‌کنم این چیزی باشد که کارپ در ذهن داشت.
دوستی در حوزه مالی پیشنهاد کرد که آنچه واقعاً اعصاب کارپ—و همچنین اعصاب برخی مدیران اجرایی که معمولاً خونسردتر هستند، مانند ساتیا نادلا از مایکروسافت، که جالب توجه است اخیراً ادعاهای مشابهی درباره طبیعت حریصانه آزمایشگاه‌های پیشرو هوش مصنوعی مطرح کرده است—را به هم ریخته، مدل‌های کسب‌وکار Anthropic و OpenAI نیست، بلکه عرضه اولیه سهام (IPO) احتمالی آن‌هاست. آن IPOها بدون شک تقاضای بالایی خواهند داشت. و برای تأمین نقدینگی لازم برای خرید سهام OpenAI یا Anthropic، سرمایه‌گذاران نهادی ممکن است به فروش سایر نام‌های فناوری روی آورند—نام‌های فناوری مانند، خوب، پالانتیر. به یاد داشته باشید فقط چون پارانوئید هستید، به این معنی نیست که آن‌ها قصد آسیب رساندن به شما را ندارند.
با این مقدمه، اینجا اخبار بیشتر هوش مصنوعی آمده است.
جرمی کان
jeremy.kahn@fortune.com
@jeremyakahn

این داستان ابتدا در Fortune.com منتشر شد