ডিপসেকের নতুন চ্যাটবট একটি চিত্তাকর্ষক ভূমিকা নিয়ে গর্বিত: "হাই, আমি তৈরি হয়েছিল যাতে আপনি কিছু জিজ্ঞাসা করতে পারেন এবং এমন একটি উত্তর পেতে পারেন যা আপনাকে অবাক করে দিতে পারে।" এই এআই, চীনা স্টার্টআপ ডিপসিকের একটি পণ্য, দ্রুত একটি বড় খেলোয়াড় হয়ে উঠেছে, এমনকি এনভিডিয়ার শেয়ারের দামে উল্লেখযোগ্য হ্রাস পেয়েছে।

ডিপসিকের সাফল্য তার উদ্ভাবনী স্থাপত্য এবং প্রশিক্ষণ পদ্ধতি থেকে উদ্ভূত। মূল প্রযুক্তিগুলির মধ্যে রয়েছে:
- মাল্টি-টোকেন পূর্বাভাস (এমটিপি): একের পর এক শব্দের পূর্বাভাস দেওয়ার পরিবর্তে এমটিপি একসাথে একাধিক শব্দের পূর্বাভাস দেয়, নির্ভুলতা এবং দক্ষতা বাড়িয়ে তোলে।
- বিশেষজ্ঞদের মিশ্রণ (এমওই): এই আর্কিটেকচারটি ডিপসেক ভি 3 -তে 256 নিউরাল নেটওয়ার্কগুলি ব্যবহার করে, প্রতিটি টোকেন প্রসেসিং টাস্কের জন্য আটটি সক্রিয় করে, প্রশিক্ষণকে উল্লেখযোগ্যভাবে ত্বরান্বিত করে এবং কর্মক্ষমতা উন্নত করে।
- মাল্টি-হেডের সুপ্ত মনোযোগ (এমএলএ): এমএলএ বারবার পাঠ্য খণ্ডগুলি থেকে মূল বিবরণগুলি বের করে, নিশ্চিত করে যে গুরুত্বপূর্ণ তথ্যটি মিস করা হয়নি, এটি ইনপুট ডেটা সম্পর্কে আরও সংক্ষিপ্ত বোঝার দিকে পরিচালিত করে।

যখন ডিপসেক প্রাথমিকভাবে 2048 জিপিইউ ব্যবহার করে ডিপসেক ভি 3 এর জন্য $ 6 মিলিয়ন ডলারের উল্লেখযোগ্যভাবে কম প্রশিক্ষণ ব্যয় দাবি করেছিলেন, সেমিয়ানালাইসিসটি আরও বেশি পরিমাণে অবকাঠামো প্রকাশ করেছে: প্রায় 50,000 এনভিডিয়া হপার জিপিইউ (10,000 এইচ 800 এস, 10,000 এইচ 10000 এবং অতিরিক্ত এইচ 20) একাধিক ডেটা সেন্টারে ছড়িয়ে পড়ে। এটি প্রায় 1.6 বিলিয়ন ডলার মোট সার্ভার বিনিয়োগের প্রতিনিধিত্ব করে, অপারেশনাল ব্যয়গুলি 944 মিলিয়ন ডলার হিসাবে অনুমান করা হয়।
চীনা হেজ ফান্ড হাই-ফ্লায়ারের সহায়ক সংস্থা ডিপসেক তার ডেটা সেন্টারের মালিক, অপ্টিমাইজেশন এবং উদ্ভাবনী বাস্তবায়নের উপর অতুলনীয় নিয়ন্ত্রণ প্রদান করে। এই স্ব-অর্থায়িত পদ্ধতির নমনীয়তা এবং সিদ্ধান্ত গ্রহণের গতি বাড়ায়। তদ্ব্যতীত, সংস্থাটি শীর্ষ প্রতিভা আকর্ষণ করে, কিছু গবেষক বার্ষিক $ 1.3 মিলিয়ন ডলারের বেশি আয় করেছেন, প্রাথমিকভাবে শীর্ষস্থানীয় চীনা বিশ্ববিদ্যালয়গুলি থেকে নিয়োগ।

ডিপসিকের million মিলিয়ন ডলার প্রশিক্ষণ ব্যয়ের দাবি বিভ্রান্তিকর; এটি কেবল গবেষণা, পরিমার্জন, ডেটা প্রসেসিং এবং অবকাঠামো বাদ দিয়ে প্রাক-প্রশিক্ষণ জিপিইউ ব্যবহার প্রতিফলিত করে। এআই বিকাশে কোম্পানির প্রকৃত বিনিয়োগ $ 500 মিলিয়ন ছাড়িয়েছে। যাইহোক, এর পাতলা কাঠামো বৃহত্তর, আরও আমলাতান্ত্রিক সংস্থার তুলনায় দক্ষ উদ্ভাবন বাস্তবায়নের অনুমতি দেয়।

ডিপসেকের গল্পটি দৈত্যদের সাথে প্রতিযোগিতা করার জন্য একটি সু-অর্থায়িত স্বতন্ত্র এআই কোম্পানির দক্ষতা প্রদর্শন করে। তবে এর সাফল্য অবশ্য বিলিয়ন বিলিয়ন বিনিয়োগ, প্রযুক্তিগত অগ্রগতি এবং একটি শক্তিশালী দলের সাথে যুক্ত। "বিপ্লবী বাজেট" আখ্যানটি একটি উল্লেখযোগ্য ওভারসিম্প্লিফিকেশন। তবুও, ডিপসিকের ব্যয় প্রতিযোগীদের তুলনায় উল্লেখযোগ্যভাবে কম রয়েছে। উদাহরণস্বরূপ, ডিপসেক আর 1 এ 5 মিলিয়ন ডলার ব্যয় করেছে, যখন চ্যাটজিপিটি 4 এর জন্য $ 100 মিলিয়ন ডলার ব্যয় করেছে।