o3 શું છે અને કેમ દરેકે તેના વિશે જાણવું અત્યંત જરૂરી છે?
(Originally posted on FB on 22 Dec, 2024)
ગઈ કાલે વિશ્વની સૌથી ટોચની AI લેબ (કંપની) OpenAI દ્વારા AI નું અત્યાર સુધીનું સૌથી શક્તિશાળી મોડેલ રજૂ કર્યું. મૂળ વાત એ છે કે તેની ક્ષમતા બાબતે AI પર કામ કરનાર ટોચના લોકો પણ ગજબના ચકિત થઈ ગયેલા છે. આને અણધારી અને નાટકીય ઢબે બદલાતી માનવજાતિની તસવીરનો સૌથી પહેલો સંદેશો ગણી શકો.
અહીં હું તમને o3 મોડેલની ક્ષમતાની એક ઝલક આપીશ. તમે અત્યાર સુધી જે AI જોડે વાત કરી હશે અથવા કોઈ અન્ય કામ માટે ઉપયોગ કર્યો હશે તેઓ તમને હોશિયાર લાગ્યા હશે પણ ખરેખર તેઓ પોતાની રીતે વિચારી અને તર્ક દોડાવી શકતા નથી. એટલે કે ChatGPT ને તમે જે પૂછો છો તે તેનો એક બુધ્ધિશાળી વ્યક્તિની જેમ સરસ મજાનો જવાબ ગણતરીની સેકન્ડમાં આપી દે છે પણ તે એટલે આપી શકે છે કારણ કે ChatGPT ની પાછળ જે AI મોડેલ (GPT 4o) કામ કરી રહ્યું છે તે આખા ઇન્ટરેન્ટ પર જેટલી માહિતી અને નોલેજ ઉપલબ્ધ છે તેના પર ટ્રેઈન થયેલું છે. મતલબ કે તે આટલા ડેટા પરથી શીખ્યું છે, તેને ડેટાની પેટર્નના આધારે ખબર પડતી થઈ ગઈ છે કે કોઈ બાબતે પ્રશ્ન પૂછાય તેનો શું જવાબ હોઈ શકે.
જેથી જ્યારે તમે કંઇક પૂછો છો ત્યારે એનો જવાબ શું હોઈ શકે એની પેટર્ન પરથી તે જવાબ તૈયાર કરે છે. અને આમાં કંઈ ખોટું પણ નથી કારણ કે તમે જોયું હશે મોટા ભાગના પ્રશ્નોના જવાબ અને કામ આ સ્તરનું AI સરસ રીતે કરીને આપે છે. પણ તો પછી લીમિટેશન ક્યાં આવે છે?
લિમિટ એ આવે છે કે તેઓ પોતાની રીતે જાતે વિચારી શકતા નથી. જેવું કે જો બાઈક અચાનક બંધ થાય તો આપણે પહેલાં થોડું વિચારીએ કે કેમ બંધ થયું હશે પછી સ્થિતિ પ્રમાણે આપણું મગજ કારણ શોધે છે. આપણે સ્ટેપ બાય સ્ટેપ એક પગલાંથી બીજા પગલાં એમ વિચારીને સોલ્યુશન કરીએ છીએ. પરંતુ આ મોડેલ આવી રીતે વિચારી નથી શકતા. કારણ નથી આપી શકતાં. તેઓ તર્ક દોડાવી નથી શકતા કે ક્રિટીકલ થીંકિંગ કરી શકતા નથી. એટલે કે કોઈ એવી અણધારી સ્થિતિ સામે આવી પડે કે જે બાબતનો ડેટા પર તેઓ ટ્રેઈન નથી કરેલાં તો ત્યારે મોડેલ કંઈ નથી કરી શકતા.
હવે ખરી બુદ્ધિમત્તા કે હોશિયારી તો વિચારવાની અને તર્ક કરવાની ક્ષમતા પર આધારિત હોય છે. હવે વિચારો કઈ બાબતોમાં ઊંડું વિચારી કારણ આપવાની જરૂર પડતી હોય છે? અથવા લોજિક દોડાવવું પડતું હોય છે? ગણિત સોલ્વ કરવામાં. કોડિંગ કરવામાં. કંઇક નવી શોધ કે સંશોધન કરવામાં. તદ્દન નવી સ્થિતિમાં વિચારી સોલ્યુશન લાવવામાં.
હવે તો ચાલો પાછા OpenAI દ્વારા બનાવામાં આવેલ નવા મોડેલ પર આવીએ. મોડેલને વિચારતા કરવા (જેને રીઝનિંગ ક્ષમતા) એ સૌથી મોટી ચેલેન્જ હતી. અને જેઓ AI મોડેલ કેવી રીતે કામ કરે છે તે ટેકનિકલી સમજે છે તો સમજી શકશે કે રીઝનીંગ ક્ષમતા લાવવી એ જરાય સામાન્ય ચેલેન્જ નથી.
તો આજથી 3 મહિના પહેલા OpenAI દ્વારા o1 નામે AI મોડેલ લોન્ચ કરવામાં આવેલ જે વિચારીને જવાબ આપતું હતું. મતલબ કે તમે કોઈ ગણિતનો દાખલો પૂછો તો તે 15-20 સેકન્ડ વિચારશે, તેના સ્ટેપ વિચારી પછી ગણીને સોલ્વ કરશે. મશીનોને બુદ્ધિશાળી બનાવાની આપણી હોડમાં આ નવો અને અતિ મહત્વપૂર્ણ મુકામ હતો. હાં, આ મોડલને વિચારતા સમયે ખૂબ કોમ્પ્યુટની જરૂર રહે છે એટલે તેઓને ચલાવવા મોંઘા હોય છે. (એક મહિનાના 16,000 રૂપિયામાં તમને અનલિમિટેડ વાપરવા મળે છે, જો તમારી જોડે ઊંડું વિચારીને સોલ્વ કરવા પડે તેવાં હાર્ડ પ્રોબ્લેમ હોય તો પૈસા પૂરી રીતે વસૂલ છે.) o1 મોડેલે રીતસરની PhD સ્તરના વિદ્યાર્થીની ક્ષમતા હાંસિલ કરી હતી. એ પછી ગણિત હોય કે કોડીંગ. વિચારી લો આપણી આસપાસ કેટલા લોકો PhD સ્તરની બુદ્ધિ ધરાવતા હોય છે. (સાચી રિસર્ચ વાળી PhD હો, માત્ર નામ આગળ ડૉ. લગાડવા માટે મેળવેલી હોય તે નહિ 😊) પણ તે રિઝનીંગ તાકાત મેળવવા તરફની શક્તિશાળી શરૂઆત હતી. પણ વાત o1 ની નથી. વાત છે o3 ની જે પરમ દિવસે જ રજૂ કરવામાં આવેલ છે..
સમગ્ર દુનિયામાં AI પર કામ કરનાર લોકોથી લઈને વૈજ્ઞાનિકો અને ગણિતશાસ્ત્રીઓએ પણ આચકો અનુભવ્યો તે લેવલની ક્ષમતા આ o3 જેવા અવળચંડાઇ વાળું નામ ધરાવતા મોડેલ એ મેળવી છે !! o3 ની કેટલી ક્ષમતા છે??
હવે કોઈ પણ AI મોડેલ જ્યારે તૈયાર થાય છે ત્યારે તેની ક્ષમતાને અલગ અલગ માપદંડો (બેન્ચમાર્ક) સામે ટેસ્ટ કરવામાં આવતી હોય છે. જાણે કોમન સેન્સ બેંચમાર્ક જેમાં સામાન્ય સમજનાં ઘણા બધા પ્રશ્નો હોય જેની સામે વિવિધ મોડેલને ટેસ્ટ કરીને તેને સ્કોર આપવામાં આવે છે. તેવી જ રીતે ભાષાકીય ક્ષમતા માટેનાં બેંચમાર્ક, કોડીંગ ક્ષમતા માટેનાં બેંચમાર્ક, ગણિતના બેંચમાર્ક, મેડિકલ ક્ષમતાના બેંચમાર્ક, રીઝનીંગ બેંચમાર્ક વગેરે. અલગ અલગ સંસ્થા અથવા ગ્રુપ દ્વારા આ બેંચમાર્ક બનાવામાં આવતા હોય છે.
હવે અત્યારના મોટા ભાગના મોડેલ સામાન્ય સમજ, ભાષાની સમજ, મેડિકલ ક્ષમતા વગેરેમાં તો સારામાં સારા માપદંડોની ટોચ સ્તર સુધી પહોંચી ગયા હતા. પણ ગણિત, કોડીંગ કે રિઝનિંગ આધારિત માપદંડો સામે તેઓ ફેલ થતા હતા. જે ખરેખરની બુધ્ધિ ક્ષમતા માટે જરૂરી કહેવાય.
હવે OpenAI એ કોઈ પણ પ્રકારના હાઇપ બનાવ્યા વગર પરમ દિવસે સામાન્ય રીતે o3 રજૂ કરી દીધું. અને આ રહ્યા o3 નાં પરિણામો:
ARC-AGI એ AI ની બુદ્ધિમત્તા માપવા માટે બનાવેલા ખૂબ ખાસ માપદંડ છે. જેમાં રીઝનીંગ, સર્જનાત્મકતા, નવું વિચારવાની ક્ષમતા અને લોજીક જેવી ક્ષમતા વ્યાપક રીતે ચેક કરવામાં આવે છે. અને આ બધી ક્વોલિટી તો બુધ્ધીશાળી માણસો માટે રિઝર્વ હોય છે ને! હવે આ ARC-AGI નાં માપદંડમાં અત્યાર સુધીનું સૌથી શક્તિશાળી મોડેલનો 49% સ્કોર હતો. ત્યારે o3 મોડેલ એ ઓછા પ્રોસેસિંગ પાવર પર 75.7% સ્કોર મેળવ્યો છે જે ખૂબ મોટી વાત કહેવાય. અને વધારે પ્રોસેસિંગ પાવર આપવા પર તે 87.5% નો સ્કોર મેળવે છે. આને તમે અધધ કહી શકો કારણ કે 85% એ માર્ક છે જેને ટચ કરવા પર AGI હાંસિલ કરેલ કહેવાય. AGI મતલબ એવું AI જે તમામ ફિલ્ડમાં તે ફિલ્ડનાં સૌથી ટોચના નિષ્ણાંત લોકો કરતાં પણ વધારે બુધ્ધિશાળી હોય.
ચેસમાં પ્લેયરને રેટિંગ અપાતું હોય છે તેને ELO રેટિંગ કહેવાય છે. તો તમે જાણતા હશો કે 2500 થી ઉપર રેટિંગ હોવું મતલબ તમે વૈશ્વિક સ્તરના સૌથી સારા ખેલાડીઓમાંથી એક છો. તો આ o3 મોડેલે 2727 રેટિંગ મેળવ્યું છે! બીજા નંબર પર જે o1 મોડેલ છે તેનું 1891 છે. (1800+ હોવું એટલે તમે રાષ્ટ્રીય સ્તરના સરસ ખેલાડીના લિસ્ટમાં કહેવાઓ.)
કોડ માટે Codeforce નાં નામે મોટું સ્પર્ધાત્મક પ્લેટફોર્મ છે જેમાં o3 મોડેલ એ 177 મું સ્થાન મેળવ્યું. આનો તમે અર્થ સમજો છો જો તમે આ સ્થાન મેળવો તો તમે વિશ્વના સૌથી ધાંસુ કોડર કહેવાઓ. (ત્યારે તો ગૂગલ કે એપલ તમને વાર્ષિક 2-3 કરોડનો શરૂઆતનો પગાર આપીને લઇ જાય.)
સૌથી વધુ ચોંકાવનારી બાબત આ છે: Frontier Math Banchmark. આને ગણિતનો સૌથી અઘરો માપદંડ કહેવાય. ગણિતનાં સૌથી અઘરાં પ્રશ્નો આમાં હોય છે. એટલા અઘરા કે ફિલ્ડ મેડલ વિજેતા ગણિતશાસ્ત્રીઓ પણ આમાંથી થોડા ઘણા પ્રોબ્લેમ જ સોલ્વ કરી શકતા હોય છે તે પણ કલાકો અથવા દિવસો આપ્યા પછી. ફિલ્ડ મેડલ એ ગણિત માટેનો નોબેલ કહેવાય મતલબ વિશ્વના સૌથી ટોચના ગણિતશાસ્ત્રીઓને મળતો હોય છે. તો આ બેંચમાર્કમાં અત્યાર સુધીનું સૌથી શક્તિશાળી મોડેલ માંડ 2% જ પ્રશ્નો સોલ્વ કરી શક્યું હતું પરંતુ o3 એ 25% પ્રશ્નો સોલ્વ કરીને સૌથી ચોંકાવી દીધા છે. (આખી ઓક્સફર્ડ યુનિવર્સિટીના બધા ગણિતશાસ્ત્રીઓ ભેગા થઈને પણ આટલા પ્રશ્નો સોલ્વ ના કરી શકે એમ છે.)
PhD લેવલનાં રિસર્ચના પ્રશ્નોનાં માપદંડમાં o3 મોડેલ એ 87.7% સ્કોર મેળવ્યો છે. સરખામણી કરવી હોય તો સમજો કે નિષ્ણાંત કહેવાતા માણસનો સરેરાશ સ્કોર 70% ની આસપાસ રહેતો હોય છે. o3 CoT (Chain of Thought) અને Reinforcement લર્નિંગ જેવી ટેકનિક આધારિત કામ કરે છે પણ નક્કર રીતે OpenAI સિવાય કોઈને ખબર નથી.
અત્યાર સુધી વહેલામાં વહેલા 2027 માં આ સ્તર સુધી પહોંચવાનો અંદાજ હતો. પણ આ તો 3 વર્ષ પહેલાં પહોંચી ગયા !! અને આતો હવે રેસ જેવું છે, OpenAI એ કર્યું છે તો ગૂગલ, એંથ્રોપિક કે xAI પણ આ સ્તર પર પહોંચવા અને એનાથી પણ આગળ જવા અબજો ડોલર અને સંસાધનો નાખી દેશે.
આ સિરિયસ થવાનો સમય છે કે મશીન જે ઝડપે બુદ્ધિશાળી થઈ રહ્યા છીએ તે પ્રમાણે આપણે શું કરીશું? આપણે શું કરવું જોઈએ? આ કોઈ છાપાના લેખ કે ભાષણ કે લેક્ચરમાં બોલાતા અને અવાસ્તવિક પ્રશ્નો નથી. આ રિયલ વસ્તુ છે, આપણી નજર સામે થઈ રહ્યું છે અને તેની અસરો ફેલાઈ રહી છે. AI માનવ ઇતિહાસની સૌથી શક્તિશાળી ટેકનોલોજી છે. વિચારો આવાં શક્તિશાળી મોડેલને આપણે દુનિયાના સૌથી મુશ્કેલ પ્રોબ્લેમ સોલ્વ કરવા લગાડીએ તો? હજુ વધુ સ્પીડથી આગળ વધવા માટે કામે લગાડીશું ત્યારે? અરે આજથી 3 વર્ષ પહેલાં સુધી જે સાયન્સ ફિક્શન કે તદ્દ્ન કાલ્પનિક વાતો લાગતી હતી એ હવે આવનારા સમયમાં સાચી થશે એવું થવા આવ્યું છે. તમામ રોગોની દવા શોધવી, મૃત્યુને જીતવું, સૂર્યની ઊર્જાને આપણાં કાબૂમાં કરવી, અવકાશ અને વિવિધ ગ્રહો પર વસવાટ બાંધવા, 1 અબજ બુધ્ધિશાળી રોબોટ આપણી વચ્ચે જ ફરતા હોય વગેરે વગેરે. હાં હું આ ગાંડા જેવી સપનાની દુનિયામાં ખૂબ મજબૂતીથી માનું છું એટલે હું AI ની વધતી ક્ષમતા વિશે ખૂબ ઉત્સાહિત છું.
શિક્ષણની તસ્વીર AI દ્વારા અમે કેવી રીતે બદલીશું તેની વિસ્તૃત વાત હું જલ્દી ફરીથી કરીશ પણ આ સમય છે વિચારવાનો કે જે ઝડપે ટેક્નોલોજી ગતિ કરી રહી છે તેમ દુનિયા કેવા નાટકીય ઢબે બદલાશે તે કેટલું મુવિંગ હશે? છેલ્લા 2 વર્ષમાં દરેક જગ્યાએ હદથી વધુ AI, AI, AI સાંભળીને મોટા ભાગના લોકોએ તો આ બધું તો હાઈપ હોય પણ જીવન તો જેમ ચાલે છે તેમ ચાલતું જ રહેશે એવા જડ વિચારો બાંધી લીધા હશે.
પણ આ પાવરફુલ મોમેન્ટ છે અત્યારે જે કરી રહ્યા છીએ તેનું ફરીથી મૂલ્યાંકન કરવા માટેની. પાવરફુલ મોમેન્ટ છે નવી દૃષ્ટિથી આગળની દુનિયા દેખાવા માટેની. પાવરફુલ મોમેન્ટ છે આપણી પ્રાથમિકતાઓ નવેસરથી સેટ કરવાની માટેની. પાવરફુલ મોમેંટ છે આપણી ઝડપ અને ક્ષમતાઓને એડજેસ્ટ કરવાની માટેની.
શિક્ષણથી લઈને મેડિકલથી લઈને વિજ્ઞાન, સંશોધન, મેન્યુફેકચરિંગથી લઈને મનોરંજન સુધીની તમામ દુનિયાને નવો આકાર મળશે, નવો રંગ મળશે, નવો ઢાળ મળશે... છેવટે આપણે નવી પ્રજાતિ બનાવી દીધી છે.
Welcome to the Techno-Accelerated World. Welcome to the World of Machine GOD !!! 🚀🙌🚀
(અરે એક દેશ તરીકે આપણે ક્યાં છીએ અને શું કરીશું એના પર તો મારો અલગ જ ગુસ્સો છે.)
Special credits to Chirag Joshi for reviewing the write up.