๊ด€๋ฆฌ ๋ฉ”๋‰ด

๋ชฉ๋ก๐Ÿค– AI/Machine Learning (7)

Done is Better Than Perfect

05. Regularization

๋ชฉ์ฐจ ์ €๋ฒˆ ํฌ์ŠคํŠธ์—์„œ๋Š” ์ง€๋„ํ•™์Šต์˜ Linear Regression๋ชจ๋ธ๊ณผ Logistic Regression ๋ชจ๋ธ์„ ๋ฐฐ์› ๋‹ค. ์ด๋ฒˆ์—๋Š” hํ•จ์ˆ˜๋ฅผ ๋” ์ž์„ธํžˆ ์•Œ์•„๋ณด๋„๋ก ํ•˜์ž.๐Ÿ˜€ 1. Overfitting Problem ๊ฐ€์žฅ ์™ผ์ชฝ ๊ทธ๋ž˜ํ”„์˜ ๊ฒฝ์šฐ, hํ•จ์ˆ˜(๊ฐ€์„ค ํ•จ์ˆ˜)๋ฅผ θ์— ๋Œ€ํ•œ 1์ฐจ ๋ฐฉ์ •์‹์œผ๋กœ ์ •์˜ โžก ๋ฐ์ดํ„ฐ์˜ ์˜ˆ์ธก์ด ์ผ์น˜ํ•˜์ง€ ์•Š๋Š”๋‹ค. ์ผ๋ฐ˜์ ์œผ๋กœ ๋„ˆ๋ฌด ๋‹จ์ˆœํ•˜๊ฑฐ๋‚˜ ๋„ˆ๋ฌด ์ ์€ ๊ธฐ๋Šฅ์„ ์‚ฌ์šฉํ•˜๋Š” ๊ธฐ๋Šฅ ๋•Œ๋ฌธ์— ๋ฐœ์ƒํ•œ๋‹ค. ์ด๋Ÿฌํ•œ ๊ฒฝ์šฐ๋ฅผ Underfit ๋˜๋Š” High Bias๋ผ ํ•œ๋‹ค. ๊ฐ€์žฅ ์˜ค๋ฅธ์ชฝ ๊ทธ๋ž˜ํ”„์˜ ๊ฒฝ์šฐ, hํ•จ์ˆ˜๋ฅผ ๋‹ค์ฐจ์›๋ฐฉ์ •์‹์œผ๋กœ ์ •์˜ โžก ๊ฐ๊ฐ์˜ ๋ฐ์ดํ„ฐ ๊ฒฐ๊ณผ ๊ฐ’์„ ๋งŒ์กฑํ•˜๋Š” ํ˜•ํƒœ๋ฅผ ๋ˆ๋‹ค๊ณ  ํ•  ์ˆ˜ ์žˆ๋‹ค. training data set์—์„œ๋Š” ์ตœ์ ํ™”๊ฐ€ ์ž˜ ๋˜์—ˆ๋‹ค๊ณ  ์ƒ๊ฐํ•  ์ˆ˜ ์žˆ์ง€๋งŒ ์ƒˆ๋กœ์šด data์— ๋Œ€ํ•œ ์ •ํ™•๋„๋Š” ์žฅ๋‹ดํ•  ..

๐Ÿค– AI/Machine Learning 2022. 3. 25. 12:51
04. Logistic Regression

๋ชฉ์ฐจ 1. Classification classification์€ ๋ฐ์ดํ„ฐ์˜ ๊ฒฐ๊ณผ๋ฅผ 0๋˜๋Š” 1๋กœ ๋ถ„๋ฅ˜ํ•˜๋Š” ๋ชจ๋ธ์ด๋‹ค. ์˜ˆ๋ฅผ ๋“ค์–ด, ๋ฉ”์ผ์˜ ์ŠคํŒธ์—ฌ๋ถ€์™€ ์•”์˜ ์•…์„ฑ ์—ฌ๋ถ€๋ฅผ ํŒ๋‹จํ•  ๋•Œ ์‚ฌ์šฉ๋œ๋‹ค. ์ผ๋ฐ˜์ ์œผ๋กœ ์ฐธ, ๊ฑฐ์ง“์œผ๋กœ ๋ถ„๋ฅ˜๋˜๋Š” ๋ชจ๋ธ์—์„œ 1์„ positive class, 0์„ negative class๋กœ ํ‘œํ˜„ํ•œ๋‹ค. ์ถ”ํ›„์— 2๊ฐœ ์ด์ƒ์˜ ์นดํ…Œ๊ณ ๋ฆฌ๋กœ ๋ถ„๋ฅ˜ํ•˜๋Š” multiple-class classification๋„ ํ•™์Šตํ•  ๊ฒƒ์ด๋‹ค. Linear regression์„ classification์— ์ ์šฉํ•˜๋ฉด ์œ„์˜ ๊ทธ๋ฆผ๊ณผ ๊ฐ™์ด ์˜ค๋ฅธ์ชฝ์— ๋™๋–จ์–ด์ง„ ๋ฐ์ดํ„ฐ๊ฐ€ ์ถ”๊ฐ€๋  ๊ฒฝ์šฐ hํ•จ์ˆ˜(๊ฐ€์„คํ•จ์ˆ˜)๊ฐ€ ๋ฐ”๋€Œ๊ธฐ ๋•Œ๋ฌธ์— ํŒ๋‹จ์„ ์ž˜๋ชปํ•˜๋Š” ๊ฒฐ๊ณผ๋ฅผ ์•ผ๊ธฐํ•œ๋‹ค. ๋”ฐ๋ผ์„œ, classification์— linear regression์„ ์‚ฌ์šฉํ•  ์ˆ˜ ์—†๋‹ค. 2. Hy..

๐Ÿค– AI/Machine Learning 2022. 3. 23. 21:37
์ถ”์ฒœ ์‹œ์Šคํ…œ์ด๋ž€

์ถ”์ฒœ ์‹œ์Šคํ…œ  ์ด๋ž€?์‚ฌ์šฉ์ž์˜ ์„ ํ˜ธ ์ •๋ณด๋‚˜ ์ทจํ–ฅ์„ ๋ถ„์„ํ•˜์—ฌ ์‚ฌ์šฉ์ž์—๊ฒŒ ์ ํ•ฉํ•œ ์•„์ดํ…œ์„ ์ถ”์ฒœํ•˜๋Š” ์•Œ๊ณ ๋ฆฌ์ฆ˜ ํ•„์š”์„ฑ์ธํ„ฐ๋„ท์˜ ๋ฐœ๋‹ฌ๋กœ ์‚ฌ์šฉ์ž์˜ ์•„์ดํ…œ ๊ตฌ๋งค ๋ฐ์ดํ„ฐ, ์„ ํ˜ธ ๋ฐ์ดํ„ฐ, ํ‰์  ๋ฐ์ดํ„ฐ๋ฅผ ์‰ฝ๊ฒŒ ์–ป์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ถ”์ฒœ์‹œ์Šคํ…œ์€ ์‚ฌ์šฉ์ž ๊ฐœ์ธํ™”์— ์ดˆ์ ์„ ๋งž์ถค์œผ๋กœ์จ ์‚ฌ์šฉ์ž๋“ค์ด ๋” ์‰ฝ๊ฒŒ ์›ํ•˜๋Š” ์ƒํ’ˆ์— ์ ‘๊ทผํ•  ์ˆ˜ ์žˆ๋„๋ก ๋•๊ณ , ๊ธฐ์—…์˜ ์ž…์žฅ์—์„œ๋Š” ์†Œ๋น„๋ฅผ ์œ ๋„ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.+ ์ถ”์ฒœ ์‹œ์Šคํ…œ์€ youtube ๋™์˜์ƒ ์ถ”์ฒœ, SNS ์นœ๊ตฌ์ถ”์ฒœ,  netflix ์˜ํ™”์ถ”์ฒœ ์™€ ๊ฐ™์€ ๋‹ค์–‘ํ•œ ๋ถ„์•ผ์˜ ์„œ๋น„์Šค์—์„œ ์‚ฌ์šฉ์ž์˜ ์ทจํ–ฅ์„ ๋ถ„์„ํ•˜์—ฌ ์ œ๊ณตํ•œ๋‹ค.   ์ถ”์ฒœ ์•Œ๊ณ ๋ฆฌ์ฆ˜ ์ข…๋ฅ˜Content-based Recommender Systems: ์ปจํ…์ธ  ๊ธฐ๋ฐ˜ ์ถ”์ฒœ์‹œ์Šคํ…œCollaborative Filtering: ํ˜‘์—…ํ•„ํ„ฐ๋งKnowldege-based syst..

๐Ÿค– AI/Machine Learning 2022. 1. 5. 17:58