১০ সেন্টে ১০ লাখ টোকেনঃ ক্লড হাইকু ৫.৫ কি ছোট ডেভেলপারদের খেলা বদলে দিবে?

এআই এপিআই এর দাম কমা এখন আর নিউজ না, প্রায় প্রতি মাসেই কেউ না কেউ কমায়। কিন্তু একবারে ৯০% কমানো? সেটা অন্তত আমার চোখে খুব একটা পরে নি।

গত ৭ অক্টোবর এনথ্রপিক (Anthropic) তাদের সবচেয়ে ছোট মডেলের নতুন ভার্সন রিলিজ করেছে, নাম ক্লড হাইকু ৫.৫ (Claude Haiku 5.5)। ১০০কে টোকেনের নিচের প্রম্পটে ইনপুট এর দাম প্রতি মিলিয়ন টোকেনে মাত্র $0.10, আউটপুট $0.50। আগের হাইকু ৪.৫ এ এটাই ছিলো $1 আর $5।

বাংলাদেশ থেকে যারা এআই দিয়ে প্রোডাক্ট বানাচ্ছেন, বা ক্লায়েন্টের প্রজেক্টে এআই ফিচার ঢুকাচ্ছেন, তাদের জন্য এটা ছোট খবর না। আবার শুধু দাম দেখে লাফ দিয়ে মাইগ্রেট করলে কোড ভেঙ্গে পরার সম্ভাবনাও আছে। আজকের ব্লগে এই দুইটা দিক নিয়েই আলোচনা করবো।

হাইকু ৫.৫ কি?

হাইকু হলো ক্লড ফ্যামিলির সবচেয়ে ছোট আর সস্তা মডেল। অপাস (Opus) যদি হয় বড় সার্জন, সনেট (Sonnet) হলো জেনারেল ফিজিশিয়ান, আর হাইকু হলো পাড়ার ফার্মেসির অভিজ্ঞ ভাই। সব রোগের চিকিৎসা উনি করবেন না, কিন্তু দিনে ৫০০ জন আসলে ৪৫০ জনের সমস্যা উনিই সামলে দেন, দ্রুত আর কম খরচে।

এনথ্রপিক নিজেই বলছে হাইকু ৫.৫ বানানো হয়েছে হাই-ভলিউম, কস্ট-সেনসিটিভ কাজের জন্য। যেমনঃ

• ক্লাসিফিকেশন আর রাউটিংঃ কোন সাপোর্ট টিকেট কোন ডিপার্টমেন্টে যাবে, কোন লিড ভালো কোনটা স্প্যাম।
• সামারি আর ডাটা এক্সট্রাকশনঃ লম্বা ইমেইল, পিডিএফ, রিভিউ থেকে দরকারি তথ্য বের করা।
• সাবএজেন্টঃ বড় মডেল (অপাস বা সনেট) প্ল্যান করবে, আর ছোট ছোট কাজগুলা হাইকু কে দিয়ে করানো, বিশেষ করে কোডিং এজেন্টে।
• লাইভ কাস্টমার সাপোর্ট, ব্রাউজার ইউজঃ যেখানে স্পিড সবচেয়ে বেশী গুরুত্বপুর্ন।

দাম আসলে কতো কমলোঃ

এনথ্রপিক এর অফিসিয়াল টেবিল থেকে তুলে দিচ্ছি (প্রতি ১০ লাখ টোকেন, ডলারে)ঃ

• ইনপুটঃ হাইকু ৫.৫ এ $0.10 (১০০কে পর্যন্ত), $0.50 (১০০কে এর বেশী)। হাইকু ৪.৫ এ ছিলো $1.00।
• আউটপুটঃ হাইকু ৫.৫ এ $0.50 (১০০কে পর্যন্ত), $2.50 (১০০কে এর বেশী)। হাইকু ৪.৫ এ ছিলো $5.00।
• ক্যাশ রিডঃ হাইকু ৫.৫ এ $0.01 (১০০কে পর্যন্ত), $0.05 (১০০কে এর বেশী)। হাইকু ৪.৫ এ ছিলো $0.10।
• ক্যাশ রাইট (৫ মিনিট)ঃ হাইকু ৫.৫ এ $0.125 (১০০কে পর্যন্ত), $0.625 (১০০কে এর বেশী)। হাইকু ৪.৫ এ ছিলো $1.25।

সাথে আরো কিছু জিনিস এসেছেঃ

• কন্টেক্সট উইন্ডোঃ ১০ লাখ (1M) টোকেন। ম্যাক্স আউটপুট 128K টোকেন।
• ব্যাচ এপিআইঃ আগের মতোই ৫০% ডিসকাউন্ট। মানে রাতে চালালে চলে এমন কাজ ব্যাচে দিলে দাম আরো অর্ধেক।
• এফোর্ট সেটিংঃ এই প্রথম হাইকু ক্লাসের কোন মডেলে এডজাস্টেবল এফোর্ট আছে। কতো গভীরে চিন্তা করবে সেটা আপনি ঠিক করে দিতে পারবেন, ডিফল্ট হলো medium।
• প্ল্যাটফর্মঃ Claude API, Amazon Bedrock, Google Cloud, Microsoft Foundry আর Claude Platform on AWS, সব যায়গাতেই পাওয়া যাচ্ছে। অন্তত ৭ অক্টোবর ২০২৭ এর আগে রিটায়ার করা হবে না বলে কমিটমেন্ট দিয়েছে।

একই দিনে সনেট ৫.৫ এর ক্যাশ রিড এর দামও $0.20 থেকে কমিয়ে $0.10 করা হয়েছে। এনথ্রপিক এর দাবি, এতে বেশীরভাগ এজেন্টিক কাজে সনেট এর খরচ প্রায় ২০% কমবে।

তাহলে ৯০% নাকি ৭৫%?

এইখানে একটা প্যাচ আছে, এবং এইটাই আজকের ব্লগের সবচেয়ে গুরুত্বপুর্ন অংশ।

এনথ্রপিক এর পেজের মুল লেখায় বলা হচ্ছে হাইকু ৫.৫ চালাতে গড়ে "প্রায় ৭৫% কম" খরচ হবে। আর ফুটনোটে বলা হচ্ছে, দাম ৯০% কম (১০০কে এর নিচে) এবং ৫০% কম (১০০কে এর উপরে)। দুইটা সংখ্যা আলাদা কেনো?

কারন টোকেনাইজার বদলে গেছে। এনথ্রপিক এর মাইগ্রেশন গাইড অনুযায়ী একই টেক্সট হাইকু ৫.৫ এ প্রায় ৩০% বেশী টোকেন হয়। সহজ কথায় বললে, কেজি প্রতি চালের দাম অনেক কমেছে, কিন্তু দোকানদার এখন নতুন পাল্লায় মাপে, যেই পাল্লায় একই বস্তা একটু ভারী দেখায়। তাও আপনি জিতছেন, কিন্তু ৯০% না।

একটা হিসাব করে দেখি। ধরুন আপনার একটা এপ দিনে ১০,০০০টা রিকোয়েস্ট পাঠায়। হাইকু ৪.৫ এ প্রতিটায় গড়ে ২,০০০ ইনপুট আর ৩০০ আউটপুট টোকেন হতো।

• হাইকু ৪.৫ঃ দিনে ২ কোটি ইনপুট টোকেন × $1 = $20, আর ৩০ লাখ আউটপুট × $5 = $15। মোট $35/দিন।
• হাইকু ৫.৫ঃ ৩০% বেশী টোকেন ধরলে ২ কোটি ৬০ লাখ ইনপুট × $0.10 = $2.60, আর ৩৯ লাখ আউটপুট × $0.50 = $1.95। মোট $4.55/দিন।

মাসে ৩০ দিনে $1,050 থেকে নেমে প্রায় $136.50। ডলার যদি ১২০ টাকা ধরি, তাহলে মাসিক বিল ১ লাখ ২৬ হাজার টাকা থেকে নেমে আসে ১৬ হাজারের ঘরে। এটলিস্ট এই ধরনের শর্ট প্রম্পট ওয়ার্কলোডে প্রায় ৮৭% সেভিং। খুব একটা খারাপ না, তো নাকি?

তবে মনে রাখবেন, এটা আমার বানানো একটা উদাহরন। এখানে এডাপ্টিভ থিংকিং এর টোকেন ধরা হয় নি, সেটা নিচে বলছি। আপনার আসল প্রম্পট দিয়ে টোকেন কাউন্ট করে তারপর সিদ্ধান্ত নিবেন।

কোথায় বাঁশ খেতে পারেনঃ

দাম দেখে খুশি হয়ে শুধু মডেল এর নাম বদলে ডিপ্লয় দিলেন, তারপর রাত ৩টায় ক্লায়েন্টের মেসেজ, "ভাই সাইট তো কাজ করে না।" এটা এড়াতে চাইলে নিচের জিনিসগুলা খেয়াল করুনঃ

• ১০০কে এর উপরে দাম ৫ গুণঃ ১০০কে টোকেনের বেশী প্রম্পট হলে ইনপুট $0.50 আর আউটপুট $2.50। ১০ লাখ কন্টেক্সট আছে বলে পুরো কোডবেস ঢুকিয়ে দিলে সেভিং অনেক কমে যাবে।
• ইমেজ এর খরচ বেশীঃ হাইকু ৫.৫ হাই-রেজোলিউশন টিয়ার ইউজ করে। ডক অনুযায়ী 2000×1500 এর একটা ছবিতে আগের চেয়ে প্রায় ২.৫ গুণ ভিজুয়াল টোকেন লাগে। রিসিট বা আইডি কার্ড স্ক্যান এর এপ বানালে এটা আলাদা করে হিসাব করবেন।
• temperature, top_p, top_k নাইঃ ডিফল্ট ছাড়া অন্য ভ্যালু দিলে এরর আসবে। ক্রিয়েটিভিটি কন্ট্রোল এখন প্রম্পট দিয়ে করতে হবে।
• এসিস্ট্যান্ট প্রিফিল বন্ধঃ অনেকেই JSON আউটপুট নিশ্চিত করতে মেসেজ এর শেষে { দিয়ে এসিস্ট্যান্ট টার্ন রাখতেন। হাইকু ৫.৫ এ এটা 400 এরর দিবে। এর বদলে স্ট্রাকচারড আউটপুট ইউজ করুন।
• budget_tokens বাতিলঃ পুরোনো thinking: { type: "enabled", budget_tokens: ... } দিলে 400 এরর। এখন এডাপ্টিভ থিংকিং, আর এটা ডিফল্ট ভাবেই চালু।
• থিংকিং max_tokens খায়ঃ max_tokens খুব কম দিলে টেক্সট আসার আগেই থিংকিং এ টোকেন শেষ হয়ে যেতে পারে। আর রেসপন্স এর প্রথম ব্লক টেক্সট হবে এমন ধরে নিয়ে content[0].text লিখে থাকলে কোড ভাঙ্গবে। ব্লক type দেখে নিন।
• refusal হ্যান্ডেল করুনঃ সেফটি ক্লাসিফায়ার রিকোয়েস্ট রিজেক্ট করলে stop_reason: "refusal" আসতে পারে, এবং সার্ভার সাইড কোন ফলব্যাক নাই। এই কেস টা কোডে রাখবেন।

কোডে কি বদলাতে হবেঃ

পুরোনো হাইকু ৪.৫ এর একটা রিকোয়েস্ট সাধারনত এমন হতো (মেসেজ এর শেষে প্রিফিল, budget_tokens সহ)ঃ

{
  "model": "claude-haiku-4-5",
  "max_tokens": 16000,
  "temperature": 0.3,
  "thinking": { "type": "enabled", "budget_tokens": 8000 },
  "messages": [
    { "role": "user", "content": "এই রিভিউটা positive নাকি negative?" },
    { "role": "assistant", "content": "{" }
  ]
}

হাইকু ৫.৫ এ একই কাজ করতে হবে এভাবেঃ

{
  "model": "claude-haiku-5-5",
  "max_tokens": 16000,
  "thinking": { "type": "adaptive" },
  "output_config": { "effort": "low" },
  "messages": [
    { "role": "user", "content": "এই রিভিউটা positive নাকি negative? শুধু JSON দিন।" }
  ]
}

খেয়াল করুন, temperature আর এসিস্ট্যান্ট প্রিফিল বাদ, budget_tokens এর যায়গায় এফোর্ট। মডেল এর নাম claude-haiku-5-5, কোন ডেট সাফিক্স নাই। ক্লাসিফিকেশন এর মতো সহজ কাজে আমি low এফোর্ট দিয়ে শুরু করতে সাজেস্ট করবো, ফল ভালো না আসলে তারপর medium এ যাবেন। এফোর্ট যতো বেশী, থিংকিং টোকেন ততো বেশী, বিলও ততো বেশী।

নোটঃ এই উদাহরনে স্ট্রাকচারড আউটপুট এর কনফিগ দেখাই নি, শুধু পার্থক্যটা বুঝানোর জন্য ছোট রাখলাম। প্রোডাকশনে JSON লাগলে অফিসিয়াল ডক দেখে স্ট্রাকচারড আউটপুট সেট করে নিবেন।

বাংলাদেশী ডেভেলপারদের জন্য এর মানে কিঃ

আমাদের দেশে এআই প্রোডাক্ট বানানোর সবচেয়ে বড় প্যারা হলো ডলার। ইন্টারন্যাশনাল কার্ডের লিমিট, ব্যাংকের ঝামেলা, আর মাস শেষে বিল দেখে বুক ধড়ফড় করা। যতো সস্তা মডেল, ততো কম ডলার, ততো কম টেনশন।

• ছোট SaaS বা MVP বানাতে সুবিধাঃ যেই আইডিয়া আগে শুধু এপিআই খরচের জন্য লস প্রজেক্ট মনে হতো, সেটা এখন হয়তো লাভজনক হতে পারে। ফ্রি টায়ার রাখাও সহজ হবে।
• ক্লায়েন্ট প্রজেক্টে প্লাস পয়েন্টঃ লিড ক্লাসিফিকেশন, ইমেইল সামারি, চ্যাটবট এর মতো ফিচার এর রানিং কস্ট এখন ক্লায়েন্টকে অনেক কম দেখাতে পারবেন। এজ আ ফ্রিল্যান্সার, এটা প্রপোজালে একটা ভালো সেলিং পয়েন্ট।
• শেখার খরচ কমলোঃ স্টুডেন্টরা যারা নিজের পকেটের টাকায় এপিআই দিয়ে এক্সপেরিমেন্ট করেন, তাদের জন্য কয়েক ডলারে এখন অনেক বেশী রিকোয়েস্ট।

তবে হ্যা, এক ভেন্ডরের উপর পুরো প্রোডাক্ট দাড় করানো কখনই ভালো আইডিয়া না। আজ ক্লড সস্তা, কাল অন্য কেউ আরো সস্তা হবে। তাই কোডে মডেল কল টা একটা আলাদা লেয়ারে রাখুন, যাতে দরকার হলে মডেল বদলাতে পুরো এপ ঘেটে ফেলতে না হয়।

আরেকটা কথা, এনথ্রপিক এর বেঞ্চমার্ক এ হাইকু ৫.৫ আগের হাইকু থেকে অনেক উপরে দেখাচ্ছে, যেমন OSWorld এ ৭২.৪% যেখানে হাইকু ৪.৫ এর ছিলো ১৫.৭%। কিন্তু এগুলা কোম্পানির নিজের দেওয়া সংখ্যা। নিজের ইউজ কেস এ টেস্ট না করে বিশ্বাস করবেন না।

উপসংহারঃ

হাইকু ৫.৫ ছোট ডেভেলপারদের জন্য খেলা পুরোপুরি বদলে দিবে কিনা, শতভাগ নিশ্চয়তা দিয়ে কিছুই বলা যাচ্ছে না। কিন্তু শর্ট প্রম্পট, হাই ভলিউম কাজে খরচ যে অনেক কমবে, সেটা সংখ্যাই বলছে। আমার পরামর্শ হলো, তাড়াহুড়া করবেন না। আগে আসল ডাটা দিয়ে টোকেন কাউন্ট করুন, মাইগ্রেশন গাইড এর ব্রেকিং চেঞ্জ গুলা মিলিয়ে নিন, স্টেজিং এ টেস্ট করুন, তারপর প্রোডাকশনে নিন। সস্তা জিনিস ভুলভাবে ইউজ করলে সেটাও দামি হয়ে যায়।

চেস্টা করেছি সহজভাবে বুঝানোর জন্য। যদি বুঝতে কোন সমস্যা হয়, নিচে কমেন্ট সেকশন ২৪ ঘন্টা খোলা আছে। ভুল-ভ্রান্তি নিজগুনে ক্ষমা করবেন। হ্যাপী লার্নিং।