جدیدترین مدل هوش مصنوعی پرچمدار شرکت آنتروپیک، کلود ۳.۷ سونت، با هزینهای در حدود «چند ده میلیون دلار» و با استفاده از کمتر از ۱۰ به توان ۲۶ فلاپ قدرت محاسباتی آموزش دیده است.
این اطلاعات را اتان مولیک، استاد دانشگاه وارتون، ارائه کرده است که در پستی در روز دوشنبه در شبکه اجتماعی ایکس، توضیحاتی را که از روابط عمومی آنتروپیک دریافت کرده بود، بازگو کرد. او نوشت: «آنتروپیک با من تماس گرفت و گفت که سونت ۳.۷ بهعنوان مدلی با ۱۰ به توان ۲۶ فلاپ در نظر گرفته نمیشود و هزینه آموزش آن چند ده میلیون دلار بوده است، هرچند مدلهای آینده بسیار بزرگتر خواهند بود.»
تککرانچ برای تأیید این موضوع با آنتروپیک تماس گرفت، اما تا زمان انتشار این خبر پاسخی دریافت نکرده بود.
اگر فرض کنیم کلود ۳.۷ سونت واقعاً تنها «چند ده میلیون دلار» برای آموزش هزینه داشته باشد (بدون در نظر گرفتن هزینههای جانبی)، این نشاندهنده آن است که عرضه مدلهای پیشرفته امروزی تا چه حد نسبتاً ارزان شده است. داریو آمودی، مدیرعامل آنتروپیک، در مقالهای اخیر فاش کرد که کلود ۳.۵، مدل پیشین سونت که در پاییز ۲۰۲۴ عرضه شد، بهطور مشابه با هزینهای در حدود چند ده میلیون دلار آموزش دیده بود.
این ارقام در مقایسه با هزینههای آموزش مدلهای برتر سال ۲۰۲۳ کاملاً بهصرفه به نظر میرسند. به گفته سم آلتمن، مدیرعامل اوپنایآی، این شرکت برای توسعه مدل GPT-4 بیش از ۱۰۰ میلیون دلار هزینه کرد. در همین حال، بر اساس مطالعهای از دانشگاه استنفورد، گوگل نزدیک به ۲۰۰ میلیون دلار برای آموزش مدل جمینای اولترا خود صرف کرده بود.
با این حال، آمودی پیشبینی میکند که مدلهای آینده هوش مصنوعی هزینههایی در حد میلیاردها دلار خواهند داشت. البته هزینههای آموزش، فعالیتهایی مانند آزمایش ایمنی و تحقیقات پایه را در بر نمیگیرد. علاوه بر این، با توجه به اینکه صنعت هوش مصنوعی به سمت مدلهای «استدلالگرا» حرکت میکند که برای مدت طولانیتری روی مسائل کار میکنند، هزینههای محاسباتی اجرای این مدلها احتمالاً همچنان رو به افزایش خواهد بود.