04
ভলিউম ০৪✦
অ্যাডভান্সড ডিপ লার্নিং
ট্রান্সফরমার, অ্যাটেনশন, GAN, ডিফিউশন, গ্রাফ নিউরাল নেটওয়ার্ক ও রিইনফোর্সমেন্ট লার্নিং
12অধ্যায়
46সেকশন
30অ্যালগরিদম
অধ্যায়সমূহ
01
অ্যাটেনশন মেকানিজম
p.5অ্যাডিটিভ ও মাল্টিপ্লিকেটিভ অ্যাটেনশন
5স্কেলড ডট-প্রোডাক্ট অ্যাটেনশন
5মাল্টি-হেড অ্যাটেনশন
602
ট্রান্সফরমার
p.8পজিশনাল এনকোডিং
8এনকোডার ব্লক
8ডিকোডার ও কজাল মাস্কিং
9জটিলতা
903
টোকেনাইজেশন ও ডিকোডিং
p.10কেন সাবওয়ার্ড
10বাইট পেয়ার এনকোডিং (BPE)
10ডিকোডিং কৌশল
11KV ক্যাশ
1304
প্রি-ট্রেইনড ভাষা মডেল
p.14BERT — দ্বিমুখী এনকোডার
14GPT — কজাল ডিকোডার
14প্যারামিটার-দক্ষ ফাইন-টিউনিং (LoRA)
1505
বড় ভাষা মডেল — ব্যবহার ও অভিযোজন
p.16স্কেলিং সূত্র
16ইন-কনটেক্সট লার্নিং ও চেইন-অব-থট
16ইনস্ট্রাকশন টিউনিং ও RLHF
16রিট্রিভাল-অগমেন্টেড জেনারেশন (RAG)
17মিক্সচার অব এক্সপার্টস
18মূল্যায়ন
1906
ভিশন ট্রান্সফরমার ও মাল্টিমোডাল মডেল
p.20ভিশন ট্রান্সফরমার (ViT)
20CLIP — ছবি ও টেক্সট একসঙ্গে
2007
অটোএনকোডার ও ভ্যারিয়েশনাল অটোএনকোডার
p.22অটোএনকোডার
22ভ্যারিয়েশনাল অটোএনকোডার
2208
জেনারেটিভ অ্যাডভারসারিয়াল নেটওয়ার্ক
p.24সাধারণ সমস্যা ও সমাধান
2509
ডিফিউশন মডেল
p.26ফরওয়ার্ড প্রক্রিয়া
26DDIM — দ্রুত স্যাম্পলিং
27ক্লাসিফায়ার-ফ্রি গাইডেন্স
28স্কোর-ভিত্তিক দৃষ্টিভঙ্গি ও নরমালাইজিং ফ্লো
2810
গ্রাফ নিউরাল নেটওয়ার্ক
p.30গ্রাফ কনভলিউশনাল নেটওয়ার্ক
30GraphSAGE ও GAT
3011
রিইনফোর্সমেন্ট লার্নিং
p.32মার্কভ ডিসিশন প্রসেস
32বেলম্যান সমীকরণ
32Q-লার্নিং
33ডিপ Q-নেটওয়ার্ক
34পলিসি গ্রেডিয়েন্ট ও REINFORCE
35অ্যাক্টর-ক্রিটিক ও PPO
36পলিসি ইটারেশন
37মন্টে কার্লো ও টেম্পোরাল ডিফারেন্স
38DQN-এর উন্নত সংস্করণ
39অ্যাডভান্টেজ অ্যাক্টর-ক্রিটিক ও GAE
40অবিচ্ছিন্ন ক্রিয়া — DDPG ও SAC
4012
সেলফ-সুপারভাইজড লার্নিং ও মডেল সংকোচন
p.42কনট্রাস্টিভ লার্নিং
42নলেজ ডিস্টিলেশন
42প্রুনিং ও কোয়ান্টাইজেশন
43উপসংহার
43অ্যালগরিদম
অ্যালগরিদম ১ · স্কেলড ডট-প্রোডাক্ট অ্যাটেনশন
অ্যালগরিদম ২ · মাল্টি-হেড অ্যাটেনশন
অ্যালগরিদম ৩ · ট্রান্সফরমার এনকোডার ব্লক
অ্যালগরিদম ৪ · কজাল মাস্ক
অ্যালগরিদম ৫ · BPE
অ্যালগরিদম ৬ · স্যাম্পলিং কৌশল
অ্যালগরিদম ৭ · বিম সার্চ
অ্যালগরিদম ৮ · KV ক্যাশ জেনারেশন
অ্যালগরিদম ৯ · MLM
অ্যালগরিদম ১০ · LoRA
অ্যালগরিদম ১১ · RLHF
অ্যালগরিদম ১২ · RAG পাইপলাইন
অ্যালগরিদম ১৩ · ViT
অ্যালগরিদম ১৪ · CLIP
অ্যালগরিদম ১৫ · VAE
অ্যালগরিদম ১৬ · GAN প্রশিক্ষণ
অ্যালগরিদম ১৭ · DDPM প্রশিক্ষণ
অ্যালগরিদম ১৮ · DDPM স্যাম্পলিং
অ্যালগরিদম ১৯ · DDIM
অ্যালগরিদম ২০ · GCN স্তর
অ্যালগরিদম ২১ · ভ্যালু ইটারেশন
অ্যালগরিদম ২২ · Q-লার্নিং
অ্যালগরিদম ২৩ · DQN
অ্যালগরিদম ২৪ · REINFORCE
অ্যালগরিদম ২৫ · পলিসি ইটারেশন
অ্যালগরিদম ২৬ · ডাবল DQN
অ্যালগরিদম ২৭ · A2C
অ্যালগরিদম ২৮ · DDPG
অ্যালগরিদম ২৯ · SimCLR
অ্যালগরিদম ৩০ · নলেজ ডিস্টিলেশন