🌐 [i18n-KO] Translated `cache_explanation.md` to Korean by pyapyapya · Pull Request #39535 · huggingface/transformers

pyapyapya · 2025-07-20T08:39:03Z

What does this PR do?

Translated the cache_explanation.md file of the documentation to Korean.
Thank you in advance for your review.

Part of #20179

Before reviewing

Check for missing / redundant translations (번역 누락/중복 검사)
Grammar Check (맞춤법 검사)
Review or Add new terms to glossary (용어 확인 및 추가)
Check Inline TOC (e.g. [[lowercased-header]])
Check live-preview for gotchas (live-preview로 정상작동 확인)

Who can review? (Initial)

May you please review this PR?
@4N3MONE, @yijun-lee, @jungnerd , @harheem

Before submitting

This PR fixes a typo or improves the docs (you can dismiss the other checks if that's the case).
Did you read the contributor guideline,
Pull Request section?
Was this discussed/approved via a Github issue or the forum? Please add a link
to it if that's the case.
Did you make sure to update the documentation with your changes? Here are the
documentation guidelines, and
here are tips on formatting docstrings.
Did you write any new necessary tests?

Who can review? (Final)

yijun-lee · 2025-07-21T13:00:40Z

+# 캐싱[[caching]]
+누군가와 대화를 나누고 있는데, 상대방이 이전에 했던 말을 기억하지 못하고 당신이 대답할 때마다 처음부터 다시 시작해야 한다고 상상해 보세요. 이는 느리고 비효율적이겠죠?
+
+이 비유를 트랜스포머 모델에도 적용할 수 있습니다. 자기회귀 모델 생성은 한 번에 하나의 토큰씩 예측하기 때문에 느릴 수 있습니다. 각각의 새로운 예측은 이전의 모든 문맥에 의존합니다.


Suggested change

이 비유를 트랜스포머 모델에도 적용할 수 있습니다. 자기회귀 모델 생성은 한 번에 하나의 토큰씩 예측하기 때문에 느릴 수 있습니다. 각각의 새로운 예측은 이전의 모든 문맥에 의존합니다.

이 비유를 트랜스포머 모델에도 적용할 수 있습니다. 자기회귀 모델의 생성은 한 번에 하나의 토큰씩 예측하기 때문에 느릴 수 있습니다. 각각의 새로운 예측은 이전의 모든 문맥에 의존합니다.

yijun-lee · 2025-07-21T13:01:27Z

+
+이 비유를 트랜스포머 모델에도 적용할 수 있습니다. 자기회귀 모델 생성은 한 번에 하나의 토큰씩 예측하기 때문에 느릴 수 있습니다. 각각의 새로운 예측은 이전의 모든 문맥에 의존합니다.
+
+1000번째 토큰을 예측하려면, 모델은 이전 999개 토큰의 정보가 필요합니다. 이 정보는 토큰 표현에 걸친 행렬 곱셈으로 표현됩니다.


Suggested change

1000번째 토큰을 예측하려면, 모델은 이전 999개 토큰의 정보가 필요합니다. 이 정보는 토큰 표현에 걸친 행렬 곱셈으로 표현됩니다.

1000번째 토큰을 예측하려면, 모델은 이전 999개 토큰의 정보가 필요합니다. 이 정보는 각 토큰 표현들 사이의 행렬 곱을 통해 표현됩니다.

pyapyapya

0ba2774

넵! 리뷰해주셔서 감사합니다! 코멘트 달아주신거 반영했으니 확인 한 번 해주시면 감사하겠습니다!

4N3MONE · 2025-07-22T02:16:47Z

+
+for _ in range(max_new_tokens):
+    outputs = model(**inputs, cache_position=cache_position, past_key_values=past_key_values, use_cache=True)
+    # 탐욕적으로 다음 토큰 하나를 샘플링


Suggested change

# 탐욕적으로 다음 토큰 하나를 샘플링

# 탐욕적 기법으로 다음 토큰 하나를 샘플링

4N3MONE · 2025-07-22T02:19:13Z

+    # 탐욕적으로 다음 토큰 하나를 샘플링
+    next_token_ids = outputs.logits[:, -1:].argmax(-1)
+    generated_ids = torch.cat([generated_ids, next_token_ids], dim=-1)
+    # 처리되지 않은 토큰을 남겨두어 다음 생성 단계를 위한 입력을 준비합니다. 우리의 경우 새로운 토큰 하나만 있고


Suggested change

# 처리되지 않은 토큰을 남겨두어 다음 생성 단계를 위한 입력을 준비합니다. 우리의 경우 새로운 토큰 하나만 있고

# 처리되지 않은 토큰을 남겨두어 다음 생성 단계를 위한 입력을 준비합니다. 우리의 경우 새로운 토큰 하나만 존재합니다.

pyapyapya

0963572

리뷰 남겨주셔서 감사합니다! 코멘트 반영하였으니 확인해주시면 감사하겠습니다!

4N3MONE · 2025-07-23T00:25:28Z

0963572

리뷰 남겨주셔서 감사합니다! 코멘트 반영하였으니 확인해주시면 감사하겠습니다!

해당 커밋이 기존 PR 브랜치가 아닌 별도의 커밋으로 올라와 있어 이 PR에 반영되지 않고 있습니다. 이 부분 확인 부탁드립니다.

수정 : 제 착오였습니다.. 😅

stevhliu

Thanks for your translation!

We also recently added a Cache position section, would you like to translate that as well?

pyapyapya · 2025-07-24T16:36:15Z

Thanks for your translation!

We also recently added a Cache position section, would you like to translate that as well?

Thank you for the note! I’d be happy to translate the Cache position section as well.

I noticed that the content under cache_storage_implementation appears slightly different between the website and the corresponding cache_explanation.md file in the GitHub repository.

Could you kindly let me know whether I should base the translation on the version currently shown on the website or the version in the main branch of the GitHub repository?

I appreciate your guidance and will proceed with whichever option you recommend.

pyapyapya · 2025-07-27T14:18:35Z

cache_position update 됨에따라 에 따라 이 부분 한번 리뷰해주시면 감사하겠습니다! 71310ef
@yijun-lee @4N3MONE

4N3MONE · 2025-07-27T23:35:37Z

수정된 부분도 문제 없는것 확인하였습니다!

질문 주신 사항에 대해서는 번역은 깃허브 main 브랜치를 기준으로 진행하시면 됩니다!

pyapyapya · 2025-07-28T07:23:09Z

수정된 부분도 문제 없는것 확인하였습니다!

질문 주신 사항에 대해서는 번역은 깃허브 main 브랜치를 기준으로 진행하시면 됩니다!

넵 main branch 기준으로 업데이트 하였습니다! 리뷰 부탁드립니다! 39e0265 (c.c @yijun-lee)

stevhliu

Thanks, it should be updated on main :)

stevhliu · 2025-07-29T14:51:13Z

+"[INST] Hello, what's your name. [/INST]  Hello! My name is LLaMA,"
+```
+
+캐시 위치[[cache-position]]


Suggested change

캐시 위치[[cache-position]]

## 캐시 위치[[cache-position]]

pyapyapya · 2025-08-01T02:43:33Z

@4N3MONE @yijun-lee 안녕하세요! 혹시 리뷰 한번 더 요청드려도 괜찮을까요? 감사합니다.

HuggingFaceDocBuilderDev · 2025-08-05T15:14:09Z

The docs for this PR live here. All of your documentation changes will be reflected on that endpoint. The docs are available until 30 days after the last update.

…39535) * update: _toctree.yml * docs: ko: cache_explanation.md * feat: nmt draft * fix: apply yijun-lee's comments * fix: apply 4N3MONE's comments * docs: update cache_position * docs: update cache-storage-implementation * update: add h2 tag in cache-position --------- Co-authored-by: taehyeonjeon <xogus294@gmail.com>

taehyeonjeon added 3 commits July 20, 2025 16:47

update: _toctree.yml

4239728

docs: ko: cache_explanation.md

4afdb3a

feat: nmt draft

db6dfe0

yijun-lee suggested changes Jul 21, 2025

View reviewed changes

fix: apply yijun-lee's comments

0ba2774

pyapyapya commented Jul 21, 2025

View reviewed changes

pyapyapya requested a review from yijun-lee July 21, 2025 14:04

4N3MONE reviewed Jul 22, 2025

View reviewed changes

fix: apply 4N3MONE's comments

0963572

pyapyapya commented Jul 22, 2025

View reviewed changes

pyapyapya requested a review from 4N3MONE July 22, 2025 12:06

stevhliu reviewed Jul 23, 2025

View reviewed changes

pyapyapya requested a review from stevhliu July 26, 2025 01:58

docs: update cache_position

71310ef

Merge branch 'main' into ko-cache_explanation.md

9c37c14

docs: update cache-storage-implementation

39e0265

stevhliu approved these changes Jul 29, 2025

View reviewed changes

taehyeonjeon and others added 2 commits July 31, 2025 17:25

update: add h2 tag in cache-position

0a184b1

Merge branch 'main' into ko-cache_explanation.md

387092b

pyapyapya marked this pull request as ready for review July 31, 2025 08:42

Merge branch 'main' into ko-cache_explanation.md

b1860bb

yijun-lee approved these changes Aug 5, 2025

View reviewed changes

stevhliu merged commit 738c1a3 into huggingface:main Aug 5, 2025
15 checks passed

gante mentioned this pull request Aug 5, 2025

[docs] ko toc fix #39927

Merged

	이 비유를 트랜스포머 모델에도 적용할 수 있습니다. 자기회귀 모델 생성은 한 번에 하나의 토큰씩 예측하기 때문에 느릴 수 있습니다. 각각의 새로운 예측은 이전의 모든 문맥에 의존합니다.
	이 비유를 트랜스포머 모델에도 적용할 수 있습니다. 자기회귀 모델의 생성은 한 번에 하나의 토큰씩 예측하기 때문에 느릴 수 있습니다. 각각의 새로운 예측은 이전의 모든 문맥에 의존합니다.


		이 비유를 트랜스포머 모델에도 적용할 수 있습니다. 자기회귀 모델 생성은 한 번에 하나의 토큰씩 예측하기 때문에 느릴 수 있습니다. 각각의 새로운 예측은 이전의 모든 문맥에 의존합니다.

		1000번째 토큰을 예측하려면, 모델은 이전 999개 토큰의 정보가 필요합니다. 이 정보는 토큰 표현에 걸친 행렬 곱셈으로 표현됩니다.

	# 탐욕적으로 다음 토큰 하나를 샘플링
	# 탐욕적 기법으로 다음 토큰 하나를 샘플링

	# 처리되지 않은 토큰을 남겨두어 다음 생성 단계를 위한 입력을 준비합니다. 우리의 경우 새로운 토큰 하나만 있고
	# 처리되지 않은 토큰을 남겨두어 다음 생성 단계를 위한 입력을 준비합니다. 우리의 경우 새로운 토큰 하나만 존재합니다.

	캐시 위치[[cache-position]]
	## 캐시 위치[[cache-position]]

Conversation

pyapyapya commented Jul 20, 2025 • edited Loading Uh oh! There was an error while loading. Please reload this page.

Uh oh!

What does this PR do?

Before reviewing

Who can review? (Initial)

Before submitting

Who can review? (Final)

Uh oh!

yijun-lee Jul 21, 2025

Choose a reason for hiding this comment

Uh oh!

yijun-lee Jul 21, 2025

Choose a reason for hiding this comment

Uh oh!

pyapyapya left a comment • edited Loading Uh oh! There was an error while loading. Please reload this page.

Uh oh!

Choose a reason for hiding this comment

Uh oh!

4N3MONE Jul 22, 2025

Choose a reason for hiding this comment

Uh oh!

4N3MONE Jul 22, 2025

Choose a reason for hiding this comment

Uh oh!

pyapyapya left a comment

Choose a reason for hiding this comment

Uh oh!

4N3MONE commented Jul 23, 2025 • edited Loading Uh oh! There was an error while loading. Please reload this page.

Uh oh!

Uh oh!

stevhliu left a comment

Choose a reason for hiding this comment

Uh oh!

pyapyapya commented Jul 24, 2025

Uh oh!

pyapyapya commented Jul 27, 2025

Uh oh!

4N3MONE commented Jul 27, 2025

Uh oh!

pyapyapya commented Jul 28, 2025

Uh oh!

stevhliu left a comment

Choose a reason for hiding this comment

Uh oh!

stevhliu Jul 29, 2025

Choose a reason for hiding this comment

Uh oh!

pyapyapya commented Aug 1, 2025

Uh oh!

HuggingFaceDocBuilderDev commented Aug 5, 2025

Uh oh!

Uh oh!

Reviewers

Assignees

Labels

Projects

Milestone

Development

Uh oh!

5 participants

pyapyapya commented Jul 20, 2025 •

edited

Loading

pyapyapya left a comment •

edited

Loading

4N3MONE commented Jul 23, 2025 •

edited

Loading