- یک تحلیلگر به The Information گفت: ChatGPT ممکن است برای اجرای OpenAI روزانه 700000 دلار هزینه داشته باشد، زیرا به دلیل “سرورهای گران قیمت” است.
- ChatGPT برای پاسخگویی به پرس و جوها به مقدار زیادی قدرت محاسباتی روی سرورهای گران قیمت نیاز دارد.
- مایکروسافت در حال ساخت مخفیانه یک تراشه هوش مصنوعی برای کاهش هزینه است.
دیلن پاتل، تحلیلگر ارشد شرکت تحقیقاتی نیمه هادی SemiAnalysis به The Information گفت: استفاده از ChatGPT برای نوشتن نامه های پوششی، ایجاد برنامه های درسی و انجام مجدد نمایه دوستیابی می تواند به دلیل زیرساخت های فناوری گران قیمتی که هوش مصنوعی از آن استفاده می کند، تا 700000 دلار در روز هزینه داشته باشد.
دلیل آن این است که ChatGPT برای محاسبه پاسخ‌ها بر اساس درخواست‌های کاربر، به مقادیر زیادی قدرت محاسباتی نیاز دارد.
پاتل به نشریه فناوری گفت: “بیشتر این هزینه بر اساس سرورهای گران قیمتی است که آنها نیاز دارند.”
در یک تماس تلفنی با اینسایدر، پاتل گفت که احتمالاً در حال حاضر کار کردن با آن حتی پرهزینه‌تر است، زیرا تخمین اولیه او بر اساس مدل GPT-3 OpenAI است. او به Insider گفت که GPT-4 – آخرین مدل این شرکت – برای اجرا حتی گران‌تر خواهد بود.
OpenAI بلافاصله به درخواست Insider برای اظهار نظر قبل از انتشار پاسخ نداد.
پاتل و افضل احمد، تحلیلگر دیگری در SemiAnalysis، به فوربس گفتند، در حالی که آموزش مدل‌های زبان بزرگ ChatGPT احتمالاً ده‌ها میلیون دلار هزینه دارد، هزینه‌های عملیاتی یا هزینه‌های استنباط، «بسیار بیشتر از هزینه‌های آموزشی در هنگام استقرار یک مدل در هر مقیاس معقولی است». آنها گفتند: “در واقع، هزینه های استنباط ChatGPT از هزینه های آموزش به صورت هفتگی بیشتر است.”
شرکت‌هایی که از مدل‌های زبان OpenAI استفاده می‌کنند، سال‌ها است که قیمت‌های گزافی را پرداخت کرده‌اند. نیک والتون، مدیر عامل Latitude، استارتاپی که پشت یک بازی AI Dungeon است که از دستورات برای تولید داستان استفاده می کند، گفت که اجرای این مدل – همراه با پرداخت به سرورهای وب سرویس آمازون – برای شرکت 200000 دلار در ماه هزینه دارد تا هوش مصنوعی به میلیون ها مورد پاسخ دهد. CNBC گزارش داد که پرس و جوهای کاربر در سال 2021.
هزینه بالا به همین دلیل است که والتون گفت تصمیم گرفت به یک ارائه دهنده نرم افزار زبان با پشتیبانی آزمایشگاه AI21 تغییر مکان دهد، که به گفته او هزینه های هوش مصنوعی شرکتش را به نصف کاهش داد و به 100000 دلار در ماه رساند.
والتون به سی‌ان‌بی‌سی گفت: «ما به شوخی می‌گفتیم که کارمندان انسانی داریم و کارمندان هوش مصنوعی داریم و برای هر کدام از آنها به همان اندازه هزینه می‌کنیم. ما صدها هزار دلار در ماه برای هوش مصنوعی خرج کردیم و استارتاپ بزرگی نیستیم، بنابراین هزینه بسیار زیادی داشت.
مایکروسافت در حال کار بر روی یک تراشه مخفی است
در ابتدا به گزارش The Information، مایکروسافت در تلاش برای کاهش هزینه‌های اجرای مدل‌های هوش مصنوعی مولد، در حال توسعه یک تراشه هوش مصنوعی است که آن را Athena می‌نامد. این پروژه که در سال 2019 آغاز شد، سال‌ها پس از آن انجام شد که مایکروسافت قراردادی 1 میلیارد دلاری با OpenAI انجام داد که بر اساس آن OpenAI باید مدل‌های خود را منحصراً بر روی سرورهای ابری Azure مایکروسافت اجرا کند.
به گزارش The Information، ایده پشت این تراشه دوگانه بود. یک منبع آگاه به The Information گفت که مدیران مایکروسافت متوجه شدند که در تلاش‌های گوگل و آمازون برای ساخت تراشه‌های داخلی خود عقب‌تر هستند. در همان زمان، طبق گزارش‌ها، مایکروسافت به دنبال جایگزین‌های ارزان‌تری بود – مدل‌های هوش مصنوعی آن بر روی تراشه‌های Nvidia معروف به واحدهای پردازش گرافیکی اجرا می‌شدند – و تصمیم گرفت تراشه‌ای بسازد که هزینه کمتری داشته باشد.
طبق این گزارش، تقریباً چهار سال بعد، بیش از 300 کارمند مایکروسافت اکنون بر روی تراشه کار می کنند. دو منبع آگاه به The Information گفتند که این تراشه می تواند در اوایل سال آینده برای استفاده داخلی توسط مایکروسافت و OpenAI منتشر شود.
وقتی اینسایدر با مایکروسافت تماس گرفت، از اظهار نظر خودداری کرد.
اکنون تماشا کنید: ویدیوهای محبوب از Insider Inc.
بارگذاری…
