Ã¥¼Ò°³
"¾÷°è¿Í Çа迡¼ ´Ù·ç´Â °¡Àå ÀϹÝÀûÀÎ »ý¼ºÇü AI È°¿ë »ç·Ê¿Í ÀÛ¾÷À» ÀÌÇØÇÒ ¼ö ÀÖ½À´Ï´Ù!
¿À´Ã³¯ ±â¾÷Àº ÀÚ»çÀÇ Á¦Ç°°ú ¼ºñ½º¿¡ »ý¼ºÇü AI¸¦ ºü¸£°Ô µµÀÔÇÏ°í ÀÖ½À´Ï´Ù. ±×·¯³ª ÀÌ ±â¼úÀÇ ¿µÇâ·Â°ú ÀáÀç·Â¿¡ ´ëÇØ °úÀåµÈ Á¤º¸¿Í ¿ÀÇØ°¡ ¸¹ÀÌ Á¸ÀçÇÕ´Ï´Ù. AWSÀÇ Å©¸®½º ÇÁ·¹±Û¸®, ¾Èü ¹Ù¸£Æ®, ¼Ðºñ ¾ÆÀÌ°Õºê·Îµ¥´Â ÀÌ Ã¥¿¡¼ CTO, ¸Ó½Å·¯´× ½Ç¹«ÀÚ, ¾ÖÇø®ÄÉÀÌ¼Ç °³¹ßÀÚ, ºñÁî´Ï½º ºÐ¼®°¡, µ¥ÀÌÅÍ ¿£Áö´Ï¾î, µ¥ÀÌÅÍ »çÀ̾ðƼ½ºÆ®°¡ ÀÌ Èï¹Ì·Î¿î ½Å±â¼úÀ» ½Ç¿ëÀûÀ¸·Î È°¿ëÇÏ´Â ¹æ¹ýÀ» ãµµ·Ï µµ¿ÍÁÝ´Ï´Ù.
ÀÌ Ã¥À» ÅëÇØ È°¿ë »ç·Ê Á¤ÀÇ, ¸ðµ¨ ¼±ÅÃ, ¸ðµ¨ ¹Ì¼¼ Á¶Á¤, °Ë»ö Áõ° »ý¼º, Àΰ£ Çǵå¹éÀ» ÅëÇÑ °È ÇнÀ, ¸ðµ¨ ¾çÀÚÈ, ÃÖÀûÈ, ¹èÆ÷ µî »ý¼ºÇü AI ÇÁ·ÎÁ§Æ®ÀÇ »ý¸í Áֱ⸦ ¹è¿ï ¼ö ÀÖ½À´Ï´Ù. ¶ÇÇÑ ´ë±Ô¸ð ¾ð¾î ¸ðµ¨(LLM), À̹ÌÁö »ý¼ºÀ» À§ÇÑ ½ºÅ×ÀÌºí µðÇ»Àü, À̹ÌÁö °ü·Ã Áú¹®¿¡ ´äÇÏ´Â Flamingo, IDEFICS °°Àº ¸ÖƼ¸ð´Þ ¸ðµ¨ µî ´Ù¾çÇÑ À¯ÇüÀÇ ¸ðµ¨µµ »ìÆ캾´Ï´Ù.
¡Ú ÀÌ Ã¥¿¡¼ ´Ù·ç´Â ³»¿ë ¡Ú
¡Ý »ý¼ºÇü AI¸¦ ºñÁî´Ï½º ÇöÀå¿¡ Àû¿ëÇÏ´Â ¹æ¹ý
¡Ý ÀÛ¾÷¿¡ °¡Àå ÀûÇÕÇÑ »ý¼ºÇü AI ¸ðµ¨À» °áÁ¤ÇÏ´Â ¹æ¹ý
¡Ý ÇÁ·ÒÇÁÆ® ¿£Áö´Ï¾î¸µ°ú ÄÜÅؽºÆ® ³» ÇнÀÀ» ¼öÇàÇϱâ
¡Ý Àú¼øÀ§ ÀûÀÀ(LoRA)À¸·Î µ¥ÀÌÅÍ ¼¼Æ®¿¡ ¸Â°Ô »ý¼ºÇü AI ¸ðµ¨À» ¹Ì¼¼ Á¶Á¤Çϱâ
¡Ý Àΰ£ Çǵå¹éÀ» ÅëÇÑ °È ÇнÀ(RLHF)À¸·Î »ý¼ºÇü AI ¸ðµ¨À» Àΰ£ÀÇ °¡Ä¡¿¡ ¸ÂÃß´Â ¹æ¹ý
¡Ý °Ë»ö Áõ° »ý¼º(RAG)À¸·Î ¸ðµ¨À» Áõ°Çϱâ
¡Ý ·©Ã¼ÀÎ, ReAct °°Àº ¶óÀ̺귯¸®¸¦ È°¿ëÇØ ¿¡ÀÌÀüÆ®¿Í ¾×¼ÇÀ» °³¹ßÇϱâ
¡Ý ¾Æ¸¶Á¸ º£µå·ÏÀ¸·Î »ý¼ºÇü AI ¾ÖÇø®ÄÉÀ̼ÇÀ» ¸¸µå´Â ¹æ¹ý"
ÀúÀÚ¼Ò°³
"(Chris Fregly)
Ķ¸®Æ÷´Ï¾Æ »÷ÇÁ¶õ½Ã½ºÄÚ¿¡ À§Ä¡ÇÑ ¾Æ¸¶Á¸ À¥ ¼ºñ½ºÀÇ »ý¼ºÇü AI ºÎ¹® ¼ö¼® ¼Ö·ç¼Ç ¾ÆÅ°ÅØÆ®ÀÌ´Ù. ±×´Â ¸ðµç AWS ÀÎÁõÀ» º¸À¯ÇÏ°í ÀÖ½À´Ï´Ù. ±Û·Î¹ú Generative AI on AWS ¹Ô¾÷ÀÇ °øµ¿ ⸳ÀÚÀ̱⵵ Çϸç, Àü ¼¼°è AI ¹× ¸Ó½Å·¯´× ¹Ô¾÷°ú ÄÜÆÛ·±½º¿¡¼ Á¤±âÀûÀ¸·Î °¿¬ÇÑ´Ù. ÀÌÀü¿¡´Â Databricks¿Í Netflix¿¡¼ ¿£Áö´Ï¾î·Î ÀÏÇϸç, È®À强 ÀÖ´Â ºòµ¥ÀÌÅÍ ¹× ¸Ó½Å·¯´× Á¦Ç°°ú ¼Ö·ç¼ÇÀ» °³¹ßÇß´Ù. ¶ÇÇÑ ¡¶AWS ±â¹Ý µ¥ÀÌÅÍ °úÇС·(ÇѺû¹Ìµð¾î, 2023)ÀÇ °øµ¿ ÀúÀÚÀ̱⵵ ÇÏ´Ù."
¸ñÂ÷
"¢Ã 01Àå: »ý¼ºÇü AI È°¿ë »ç·Ê, ±âº» »çÇ× ¹× ÇÁ·ÎÁ§Æ® »ý¸í ÁÖ±â
È°¿ë »ç·Ê ¹× ÀÛ¾÷
ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨ ¹× ¸ðµ¨ Çãºê
»ý¼ºÇü AI ÇÁ·ÎÁ§Æ®ÀÇ »ý¸í ÁÖ±â
AWS¿¡¼ÀÇ »ý¼ºÇü AI
AWS¿¡¼ »ý¼ºÇü AI¸¦ »ç¿ëÇÏ´Â ÀÌÀ¯
AWS¿¡¼ »ý¼ºÇü AI ¾ÖÇø®ÄÉÀÌ¼Ç ±¸ÃàÇϱâ
¿ä¾à
¢Ã 02Àå: ÇÁ·ÒÇÁÆ® ¿£Áö´Ï¾î¸µ°ú ÄÜÅؽºÆ® ³» ÇнÀ
ÇÁ·ÒÇÁÆ®¿Í ÄÄÇø®¼Ç
ÅäÅ«
ÇÁ·ÒÇÁÆ® ¿£Áö´Ï¾î¸µ
ÇÁ·ÒÇÁÆ® ±¸Á¶
___ÀνºÆ®·°¼Ç
___ÄÜÅؽºÆ®
Ç»¼¦ Ãß·ÐÀ¸·Î ÄÜÅؽºÆ® ³» ÇнÀ
___Á¦·Î¼¦ Ãß·Ð
___¿ø¼¦ Ãß·Ð
___Ç»¼¦ Ãß·Ð
___ÄÜÅؽºÆ® ³» ÇнÀÀÌ À߸øµÈ »ç·Ê
___ÄÜÅؽºÆ® ³» ÇнÀ ¸ð¹ü »ç·Ê
ÇÁ·ÒÇÁÆ® ¿£Áö´Ï¾î¸µ ¸ð¹ü »ç·Ê
Ãß·Ð ±¸¼º ¸Å°³º¯¼ö
¿ä¾à
¢Ã 03Àå: ´ëÇü ¾ð¾î ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨
´ëÇü ¾ð¾î ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨
ÅäÅ©³ªÀÌÀú
ÀÓº£µù º¤ÅÍ
Æ®·£½ºÆ÷¸Ó ¾ÆÅ°ÅØó
___ÀԷ°ú ÄÜÅؽºÆ® À©µµ
___ÀÓº£µù ·¹À̾î
___ÀÎÄÚ´õ
___¼¿ÇÁ ¾îÅÙ¼Ç
___µðÄÚ´õ
___¼ÒÇÁÆ®¸Æ½º Ãâ·Â
Æ®·£½ºÆ÷¸Ó ±â¹Ý ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨ À¯Çü
»çÀü ÇнÀ µ¥ÀÌÅÍ ¼¼Æ®
½ºÄÉÀϸµ ¹ýÄ¢
ÄÄÇ»Æà ÃÖÀûÈ ¸ðµ¨
¿ä¾à
¢Ã 04Àå: ¸Þ¸ð¸®¿Í ¿¬»ê ÃÖÀûÈ
¸Þ¸ð¸® ¹®Á¦
µ¥ÀÌÅÍ À¯Çü ¹× ¼öÄ¡ Á¤¹Ðµµ
¾çÀÚÈ
___fp16
___bfloat16
___fp8
___int8
¼¿ÇÁ ¾îÅÙ¼Ç ·¹À̾î ÃÖÀûÈ
___Ç÷¡½Ã ¾îÅÙ¼Ç
___±×·ì Äõ¸® ¾îÅÙ¼Ç
ºÐ»ê ÄÄÇ»ÆÃ
___ºÐ»ê µ¥ÀÌÅÍ º´·Ä ó¸®
___¿ÏÀü »þµå µ¥ÀÌÅÍ º´·Ä ó¸®
___DDP¿Í FSDPÀÇ ¼º´É ºñ±³
AWS ºÐ»ê ÄÄÇ»ÆÃ
___¾Æ¸¶Á¸ ¼¼ÀÌÁö¸ÞÀÌÄ¿·Î ¿ÏÀü »þµå µ¥ÀÌÅÍ º´·Ä ó¸®
___AWS ´º·± SDK ¹× AWS Æ®·¹À̴Ͼö
¿ä¾à
¢Ã 05Àå: ¹Ì¼¼ Á¶Á¤ ¹× Æò°¡
ÀνºÆ®·°¼Ç ±â¹Ý ¹Ì¼¼ Á¶Á¤
___Llama 2-Chat
___Falcon-Chat
___FLAN-T5
ÀνºÆ®·°¼Ç µ¥ÀÌÅÍ ¼¼Æ®
___´ÙÁßÀÛ¾÷ ÀνºÆ®·°¼Ç µ¥ÀÌÅÍ ¼¼Æ®
___FLAN: ´ÙÁßÀÛ¾÷ ÀνºÆ®·°¼Ç µ¥ÀÌÅÍ ¼¼Æ® ¿¹Á¦
___ÇÁ·ÒÇÁÆ® ÅÛÇø´
___»ç¿ëÀÚ Á¤ÀÇ µ¥ÀÌÅÍ ¼¼Æ®¸¦ ÀνºÆ®·°¼Ç µ¥ÀÌÅÍ ¼¼Æ®·Î º¯È¯Çϱâ
ÀνºÆ®·°¼Ç ±â¹Ý ¹Ì¼¼ Á¶Á¤
___¾Æ¸¶Á¸ ¼¼ÀÌÁö¸ÞÀÌÄ¿ ½ºÆ©µð¿À
___¾Æ¸¶Á¸ ¼¼ÀÌÁö¸ÞÀÌÄ¿ Á¡ÇÁ½ºÅ¸Æ®
___Çã±ë ÆäÀ̽º¿ë ¾Æ¸¶Á¸ ¼¼ÀÌÁö¸ÞÀÌÄ¿ Estimator
Æò°¡
___Æò°¡ ÁöÇ¥
___º¥Ä¡¸¶Å© ¹× µ¥ÀÌÅÍ ¼¼Æ®
¿ä¾à
¢Ã 06Àå: È¿À²ÀûÀÎ ¸Å°³º¯¼ö ¹Ì¼¼ Á¶Á¤(PEFT)
¿ÏÀü ¹Ì¼¼ Á¶Á¤°ú PEFT ºñ±³
LoRA¿Í QLoRA
___LoRA ±âº» ¿ø¸®
___¼øÀ§
___¸ñÇ¥ ¸ðµâ°ú ·¹À̾î
___LoRA Àû¿ë
___LoRA ¾î´ðÅÍ¿Í ¿øº» ¸ðµ¨ º´ÇÕ
___LoRA ¾î´ðÅÍ Å׳ÍÆ®º° À¯Áö
___¿ÏÀü ¹Ì¼¼ Á¶Á¤°ú LoRA ¼º´É ºñ±³
___QLoRA
ÇÁ·ÒÇÁÆ® Æ©´×°ú ¼ÒÇÁÆ® ÇÁ·ÒÇÁÆ®
¿ä¾à
¢Ã 07Àå: Àΰ£ Çǵå¹éÀ» ÅëÇÑ °È ÇнÀÀ¸·Î ¹Ì¼¼ Á¶Á¤
Àΰ£ °¡Ä¡ Á¤·Ä(Human Alignment): À¯¿ë¼º, Á¤Á÷¼º, ¹«Çؼº
°È ÇнÀ °³¿ä
¸ÂÃãÇü º¸»ó ¸ðµ¨ ÇнÀÇϱâ
___ÈÞ¸ÕÀδõ·çÇÁ¸¦ È°¿ëÇÑ ÇнÀ µ¥ÀÌÅÍ ¼öÁý
___·¹ÀÌºí·¯¸¦ À§ÇÑ Áöħ ¿¹½Ã
___Àΰ£ÀÌ ´Ü ÁÖ¼®À» ¼öÁýÇϱâ À§ÇÑ ¾Æ¸¶Á¸ ¼¼ÀÌÁö¸ÞÀÌÄ¿ ±×¶ó¿îµå Æ®·ç½º È°¿ëÇϱâ
___º¸»ó ¸ðµ¨À» ÇнÀÇϱâ À§ÇÑ ¼øÀ§ µ¥ÀÌÅÍ Áغñ
___º¸»ó ¸ðµ¨ ÇнÀÇϱâ
±âÁ¸ º¸»ó ¸ðµ¨: ¸ÞŸÀÇ À¯Çؼº Æǵ¶±â
Àΰ£ Çǵå¹éÀ» ÅëÇÑ °È ÇнÀÀ¸·Î ¹Ì¼¼ Á¶Á¤
___RLHF¿¡¼ º¸»ó ¸ðµ¨ È°¿ë
___±ÙÁ¢ Á¤Ã¥ ÃÖÀûÈ °È ÇнÀ ¾Ë°í¸®Áò
___PPO·Î RLHF ¹Ì¼¼ Á¶Á¤ ¼öÇà
___º¸»ó ÇØÅ· ¿ÏÈ
___RLHF¿¡¼ È¿À²ÀûÀÎ ¸Å°³º¯¼ö ¹Ì¼¼ Á¶Á¤(PEFT) È°¿ë
RLHF·Î ¹Ì¼¼ Á¶Á¤ ¸ðµ¨ Æò°¡
___Á¤¼ºÀû Æò°¡
___Á¤·®Àû Æò°¡
___Æò°¡ ¸ðµ¨ °¡Á®¿À±â
___Æò°¡ ÁöÇ¥ Áý°è ÇÔ¼ö Á¤ÀÇ
___RLHF Àû¿ë Àü°ú ÈÄ Æò°¡ ÁöÇ¥ ºñ±³
¿ä¾à
¢Ã 08Àå: ¸ðµ¨ ¹èÆ÷ ÃÖÀûÈ
¸ðµ¨ Ãß·Ð ÃÖÀûÈ
___°¡ÁöÄ¡±â
___GPTQ »çÈÄ ÇнÀ ¾çÀÚÈ
___Áõ·ù
´ë±Ô¸ð ¸ðµ¨ Ãß·Ð ÄÁÅ×À̳Ê
AWS ÀÎÆÛ·±½Ã¾Æ: Ãß·Ð Àü¿ë Çϵå¿þ¾î
¸ðµ¨ ¾÷µ¥ÀÌÆ®¿Í ¹èÆ÷ Àü·«
___A/B Å×½ºÆ®
___¼¨µµ ¹èÆ÷
ÁöÇ¥¿Í ¸ð´ÏÅ͸µ
¿ÀÅ佺ÄÉÀϸµ
___¿ÀÅ佺ÄÉÀϸµ Á¤Ã¥
___¿ÀÅ佺ÄÉÀϸµ Á¤Ã¥ Á¤ÀÇ
¿ä¾à
¢Ã 09Àå: RAG¿Í ¿¡ÀÌÀüÆ®¸¦ È°¿ëÇÑ ¸Æ¶ô ÀÎ½Ä Ãß·Ð ¾ÖÇø®ÄÉÀ̼Ç
´ë±Ô¸ð ¾ð¾î ¸ðµ¨ÀÇ ÇÑ°è
___ȯ°¢
___Áö½Ä ´ÜÀý
RAG
___¿ÜºÎ Áö½Ä ¼Ò½º
___RAG ¿öÅ©Ç÷Î
___¹®¼ ·Îµù
___ûŷ
___¹®¼ °Ë»ö°ú ¼øÀ§ ÀçÁ¤·Ä
___ÇÁ·ÒÇÁÆ® Áõ°
RAG ¿ÀÄɽºÆ®·¹À̼ǰú ±¸Çö
___¹®¼ ·Îµù°ú ûŷ
___º¤ÅÍ ÀÓº£µù ÀúÀå¼Ò¿Í °Ë»ö
___°Ë»ö üÀÎ
___ÃÖ´ë ÇÑ°è °ü·Ã¼º(MMR)À» È°¿ëÇÑ ¼øÀ§ ÀçÁ¤·Ä
¿¡ÀÌÀüÆ®
___ReAct ÇÁ·¹ÀÓ¿öÅ©
___ÇÁ·Î±×·¥ Áö¿ø ¾ð¾î ÇÁ·¹ÀÓ¿öÅ©
»ý¼ºÇü AI ¾ÖÇø®ÄÉÀ̼Ç
FMOps: »ý¼ºÇü AI ÇÁ·ÎÁ§Æ®ÀÇ »ý¸í Áֱ⠿
___½ÇÇè ´Ü°è °í·Á »çÇ×
___°³¹ß ´Ü°è °í·Á »çÇ×
___¿î¿µ ¹èÆ÷ ´Ü°è °í·Á »çÇ×
¿ä¾à
¢Ã 10Àå: ¸ÖƼ¸ð´Þ ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨
È°¿ë »ç·Ê
¸ÖƼ¸ð´Þ ÇÁ·ÒÇÁÆ® ¿£Áö´Ï¾î¸µ È°¿ë ¿¹½Ã
À̹ÌÁö »ý¼º°ú Ç°Áú Çâ»ó
___À̹ÌÁö »ý¼º
___À̹ÌÁö ÆíÁý ¹× Ç°Áú Çâ»ó
ÀÎÆäÀÎÆÃ, ¾Æ¿ôÆäÀÎÆÃ, µª½º Åõ À̹ÌÁö
___ÀÎÆäÀÎÆÃ
___¾Æ¿ôÆäÀÎÆÃ
___µª½º Åõ À̹ÌÁö
À̹ÌÁö ĸ¼Å´×°ú ½Ã°¢Àû ÁúÀÇÀÀ´ä
___À̹ÌÁö ĸ¼Å´×
___ÄÜÅÙÃ÷ Á¶Á¤
___½Ã°¢Àû ÁúÀÇÀÀ´ä
¸ðµ¨ Æò°¡
___ÅؽºÆ®-À̹ÌÁö »ý¼ºÇü ÀÛ¾÷
___À̹ÌÁö-ÅؽºÆ® »ý¼ºÇü ÀÛ¾÷
___ºñ¾ð¾îÀû Ãß·Ð
È®»ê ¾ÆÅ°ÅØó ±âº» »çÇ×
___¼ø¹æÇâ È®»ê
___¿ª¹æÇâ È®»ê
___U-Net
½ºÅ×ÀÌºí µðÇ»Àü 2 ¾ÆÅ°ÅØó
___ÅؽºÆ® ÀÎÄÚ´õ
___U-Net°ú È®»ê °úÁ¤
___ÅؽºÆ® ÄÁµð¼Å´×
___±³Â÷ ¾îÅÙ¼Ç
___½ºÄÉÁÙ·¯
___À̹ÌÁö µðÄÚ´õ
½ºÅ×ÀÌºí µðÇ»Àü XL ¾ÆÅ°ÅØó
___U-Net°ú ±³Â÷ ¾îÅÙ¼Ç
___Á¤Á¦±â
___ÄÁµð¼Å´×
¿ä¾à
¢Ã 11Àå: ½ºÅ×ÀÌºí µðÇ»ÀüÀ» ÅëÇÑ »ý¼º Á¦¾î¿Í ¹Ì¼¼ Á¶Á¤
ControlNet
¹Ì¼¼ Á¶Á¤
___µå¸²ºÎ½º
___µå¸²ºÎ½º¿Í PEFT-LoRA
___Textual Inversion
Àΰ£ Çǵå¹éÀ» ÅëÇÑ °È ÇнÀÀ¸·Î Àΰ£ °¡Ä¡ Á¤·Ä
¿ä¾à
¢Ã 12Àå: ¾Æ¸¶Á¸ º£µå·Ï - »ý¼ºÇü AI °ü¸®Çü ¼ºñ½º
º£µå·Ï ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨
___¾Æ¸¶Á¸ ŸÀÌź ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨
___Stability AIÀÇ ½ºÅ×ÀÌºí µðÇ»Àü ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨
º£µå·Ï Ãß·Ð API
´ë±Ô¸ð ¾ð¾î ¸ðµ¨
___SQL ÄÚµå »ý¼º
___ÅؽºÆ® ¿ä¾à
___ÀÓº£µù
¹Ì¼¼ Á¶Á¤
¿¡ÀÌÀüÆ®
¸ÖƼ¸ð´Þ ¸ðµ¨
___ÅؽºÆ®·Î À̹ÌÁö »ý¼º
___À̹ÌÁö·Î À̹ÌÁö »ý¼º
µ¥ÀÌÅÍ ÇÁ¶óÀ̹ö½Ã¿Í ³×Æ®¿öÅ© º¸¾È
°Å¹ö³Í½º¿Í ¸ð´ÏÅ͸µ
¿ä¾à"