ํ‘œ๊ธฐ๋ฒ•

  • ํ•œ ์‹œํ€€์Šค ๋‚ด์˜ ๊ฐ ๋ฐ์ดํ„ฐ์— ๋ฒˆํ˜ธ๋ฅผ ๋งค๊ธธ ๋•Œ ์•„๋ž˜ ํ‘œ๊ธฐ๋ฒ•์„ ์‚ฌ์šฉํ•œ๋‹ค.
x:FCย BAYERNย MUยจNCHENFC=x<1>BAYERN=x<2>MUยจNCHEN=x<3>x: \text{FC BAYERN MรœNCHEN}\\\text{}\\ \text{FC}=x^{<1>}\\ \text{BAYERN}=x^{<2>}\\ \text{MรœNCHEN}=x^{<3>}\\
  • ํ•œ ์‹œํ€€์Šค ๋‚ด ๋ฐ์ดํ„ฐ ๊ฐฏ์ˆ˜๋ฅผ ํ‘œํ˜„ํ•˜๊ธฐ ์œ„ํ•ด ์•„๋ž˜ ํ‘œ๊ธฐ๋ฒ•์„ ์‚ฌ์šฉํ•œ๋‹ค.
x:FCย BAYERNย MUยจNCHENTx=3x: \text{FC BAYERN MรœNCHEN}\\\text{}\\ T_x=3
  • ii ๋ฒˆ์งธ ํ›ˆ๋ จ ์˜ˆ์ œ์˜ tt ๋ฒˆ์งธ ๋ฐ์ดํ„ฐ๋Š” x(i)<t>x^{(i)<t>} ๋กœ ํ‘œ๊ธฐํ•˜๊ณ , ๊ฐ ํ›ˆ๋ จ ์˜ˆ์ œ๋งˆ๋‹ค ์‹œํ€€์Šค์˜ ๊ธธ์ด๋Š” ๋‹ค๋ฅผ ์ˆ˜ ์žˆ๊ธฐ ๋•Œ๋ฌธ์— ๊ธธ์ด๋Š” Tx(i)T_x^{(i)} ๋กœ ํ‘œ๊ธฐํ•œ๋‹ค.

  • NLP ์—์„œ๋Š” Vocabulary ๋ผ๋Š” ๊ณณ์— ๋‹จ์–ด์˜ ๋ชฉ๋ก์„ ์ €์žฅํ•œ๋‹ค.

    • 1: a
    • 2: aaron
    • 3: and
    • โ€ฆ.
    • 10000: zulu
  • ์ด ์–ดํœ˜ ํ…Œ์ด๋ธ”์—์„œ x<t>x^{<t>} ์— ํ•ด๋‹นํ•˜๋Š” one-hot ๋ฒกํ„ฐ๋ฅผ ๋งŒ๋“ค ์ˆ˜ ์žˆ๋‹ค.

    x<2>=[00...1...0]โ†4075,ย BAYERN!x^{<2>}=\begin{bmatrix}0\\0\\...\\1\\...\\0\end{bmatrix}\begin{matrix}\\\\\\\leftarrow4075,\text{ BAYERN!}\\\\\\\end{matrix}