


NLP? ? ??? ? ? ???? Beihang University, ETH, Hong Kong University of Science and Technology, Chinese Academy of Sciences ? ?? ??? ChatGPT ?? ?? ??? ????? ???? ?? 100??? ??? ??? ???? ??????.
Jun 05, 2023 pm 06:10 PM?? ?? ChatGPT? ???? ?????...
?? ????? NLP ????? ????? "??"? ?? ?????! ????? NLP? ??? ??? ??? ?????. ??? ??? ???? ??? ????? ??? ??? ??? ??? ??????. "NLP? ????!"?? ????
??? ???? ???? ???? ?? NLP ??? ???? ??? ?? ??? ? ? "NLP? ?? ??? ????. ??!"
?? ? ? ?? Beihang University, Mila, Hong Kong University of Science and Technology, ETH Zurich, University of Waterloo, Dartmouth College, University of Sheffield, Chinese Academy of Sciences ? ?? ???? ??????. 110??? ??? ? ??? ChatGPT ?? ??? ?? ??? ?? ??? ????? ?????.
- ?? ??: https://arxiv.org/abs/2305.13246
- ???? ???: https://github. com /InteractiveNLP-?
- ??: ?? ??? ???, ??? ? ???? ??? ??? ?? ?? ChatGPT+X? ??? ? ???? ChatGPT ????? ????? ?? ??, ?? ??, ?? ??? ?? ? ?? ??? ? ?? ??? ?? ??? ? ????! ?, ???? ?? ?????? ?? ?? ?? ??? ??? ?? ??? ? ????.
-
???: ?? AGI? ?????? ??? 2020? ?, 3? ? ?? ?? ? ? ??? Turing Award ???? Yoshua Bengio? ??? ?? ??? ???? ??????[1]. ??? ?? ??? ? ?? ??? ?????? ?? ??? ? ?? ?? ?????. ??? ????? ??? ?? ?? ???? ???? ??? ?? ? ????. ?? ??? ?? ? ???? ?? ??? ?? ??? ??????.
?????? ??????
?? '????'??? ??? ??? ??? ??? ????. ChatGPT? ??? ?? NLP ??? ??? ??? ?? ??? ?? ?? ??? ???????.NLP ??? ??? "?? ?? ??"?? "????? ?? ??"?? ?? ?????? ? ? ????. ?? ?? ?? ?? ??? ? ?? ???? ???? ??. ?? ???? ?? ? ??? RLHF(Reinforcement Learning from Human Feedback)???. ?? ??? ?? ??? ???? ?? ??(???)? ?? ????? ?? ????[7]. ??? "????" ??? ChatGPT ?? NLP? ?? ?? ?? ?? ?? ? ???? ? ? ????! ??? ??? ???? "??? NLP"? ???? ????? ???? ?? ??? ??? ??? ???? ??? ???? ??? ?? ???? ??? ?? ? ?? ?? ??? ??? ????? ?????.
- LM? ??? ?? ??? ? ? ???? ????, ??? ?????, ?? ??? ????, ???? ??? ??? ???? ?? ??? ?? ?????.
- LM? ?? ??? ?? ???? ????? ??? ?? ??? ???? ??, ??? ?? ?? ???? ???? ?? ??? ???? ???? ?? ??? ??? ?????.
- LM? ?? ? ??? ?? ???? ??? ?? ??? ????? ?? ? ???? ?? ??? ???? ?? ?? ??? ???? ??? ?????.
- LM? ??? ?? ???? ?? ?? ??? ??(?? ??)? ???? ??, ?? ? ?? ??? ?? ?? ??? ??? ?? ??? ????? ?????.
??? ?? ??? ? ???? ?? ??? ? ?? ?? ?? ??? ??? "??", "??" ? "???"? ??? ?????. ?? ?? ???????.
??? ?????? ?? ??? ?? "XXX-in-the-loop"?? ????. ?? ? ??? ?? ?? ?? ?? ?? ??? ???, ??, ??? ?? ??? ????? ?????. ???? ???.
??? ????
?? ??? ??? ??????? ?? ? ?? ??? ????.
- ??? ???? ??
- ?? ?? ??? ??? ???? ?? ???? ????? ???? ??? ???? ???? ???????, ? ?? ??????? ???? ??? ????.
- ????? ?? ?? ???? ???? ? ?? ??? ??, ? ?? ??? ??? ???? ??? ? ????, ? ????, ????, ??? ?? ???? ??? ????. ????? ? ?? ??? ?? ?? ??? ? ????.
- ?? ??: ?? ??
- ??? ?? ?? ??: ??? ??? ? ??? Interaction Message Fusion ??? ?????. ???? ???? ?????.
- ????? ?? ??? ?? ???? ?? ??? "??"? ?? ? ????. ?, ??? ???? ???? ??? ? ??? ?? ??? ???? ???? ?? ??? ? ? ????. ?? ??? ?? ??? ???? ? ??? ???(?? ??).
- ?? ??? ?? ?? ?? ?? ? ?? ??(?: n-gram ??, BM25 ?)
- ?? ??? ?? ?? ? ?? ??? ???? ? ?? ??(dense retrieval): ?? ?? ?? ?? ?? ??? ???? ???? ?
- ?? ?? ??: ??? ??? ????, ???? ???? Google Tay Yi ?? Differentiable Search Index[12]? ???, ?? ??? ?? ??? ????? ???? ?? ?????. ??? ? ? ??? ???? ?? ID ?? ?? ???? ?? ???? ????? [13]!
- ?? ?? ??: ??? ??? ????? ???. OpenAI? WebGPT[14]? ?? ???? ??? ??? ???? ???? ??? ???? ??? ??? ?????.
- ??: ??? ??? ?? ???? ?? ?? ? ??? ?????.
- ??: ?? ?? ?? ?? ?? ?? ?? ?? ??? ??? ?? ??? ?? ??? ????.
- ??: ?? ?? ?? ????? ?? ???? ???? ?? ??? ????? ??? ??? ??? ????????.
- ?? ?? ?? ??: ????? ?? [23] ?? ?? ??? ?? ??, ??? ?? ?? ? ??? ?? ??? ?? ?? ?? ??? ?? ?????. ??? ??? ??? ?? ??? QA ??.
- ?? ??: ? ????? ?? ????? ??? ???? ???? ?? ???? ?? ??? ???? ?? ??? ???. ?? ??, EMNLP 2021? ??? ??? MindCraft[24]? ?? ?? ? ?? ?? ??? ?? ???? ?? ???? ??? ???? ???? ???? MineCraft ??? ?? ??? ???? ?? ??? ? ??? ???. ?? ??? Graham Neubig ??? [25] Communicative Agents: ?? Agent? ?? ???? ??? ? ??? ?? ?? ??? ?? ?? ??? ? ??? ??????. ?? ???? ?? ?? ? ??? ??? ? ???? ??? Generative Agents[26]???. ???? ??? ???? ?? ???? "??"? ??? ?? ??? ????? ? ??? ???? ??? ? ??? ???? ????? ??? ??? ??? ??? ? ????. ???? ?? ?? ??? ???? "?? ??"? ??? ????(?? ??). ?? ? ??? ??? DeepGCN ??? ?? CAMEL [27]?, ?? ??? ?? ??? ???? ? ????? ??? ?? ??? ?? ???? ???? ??? ???? ???? ??? ? ?? ??? ????. . ??. ??? ???? "Large Model Society"(LLM Society)? ??? ???? ?????.
- ???? ??: ?? ??? ??? ?? ?? ??? ?? ???? ??? ??? ?? ???? ??? ??? ????? ???.
- Modality Grounding? ?? ???? ??? ??? ?? ?????. ????? OFA [28]? ?? ?? ?? ??, BridgeTower [29]? ?? 2-?? ?? ?? BLIP-2 [30]? ?? ?? ??? ??? ??? ?? ??? ???? ??? ? ????. ???? ? ?? ??? ??? ??? ??? ???? ? ??? ???? ??? ??? ??? ? ????.
- ?? ???: ?? ?? ???? ??? ???? ?????. ??? ?? ??? ???? ??? ????, ??? ?? ? ? ?? ??? ?? ??? ???? ??? ?????. ? ????? ? ??? ??, ?? ? ??? ?? ?????.
- ???? ??: ???? ??
- ? ????? ?? ??? ???? ??? ???? ??? ????? ???? ????? ?????.
- Prompting: ?? ????? ???? ?? ???? ?????? ???? ?? ??? ????, In-Context Learning, Chain of Thought, Tool-use, Level Prompt Chaining ? ??? ??? ?? ??, ??? ??? ?????. ??? ?? ??? ? ???? ?? ?? ??? ?? ??? ???? ??? ??? ??? ??? ??? ?????.
- ?? ??: ??? ??? ??? ?? ???? ????? ? ??? ?? ????? ?????. ? ????? ?? ??? ??, ???? ???? ?? ??, ?? ??, ??? ?? ??? ?? ??? ????. ??? ??? ??, ??, ??, ?? ?? ? ?? ?? ? ?? ??? ?? ??? ?????. ?? ?? ??(?, ?? ??? ?? ??)? ??? ?????.
- ?? ??: ??? ?? ?? ???? ????????.
- ?? ??: ??? ?? ?? ???? ?????, ??? ?? ?? ?????, ???? ?? ?? ?????, ?? ??? ??(RLHF), ?? ??? ??(RLEF), AI ??? ??(RLAIF) ?? ?? ?????. ?? ??.
- ????: ??? ????, ???? ???? ?? ???? ??? ???? ???? ????????.
- Interaction Message Fusion: ?? ?? ?? ?? ??? ?? ?? ?????? ???? ??? ? ???????? ?? ?? ?? ??? ?? ??? ??? ?? ?? ??? ?????. ??? ??? ?? ??(??? ???) ?
?? ??
??? ???? ?? ? ???? ??, ??, ??, ??, ?? ?? ?? ? ?? ??? ?? ??? ??? ??? ????. ??? ??? ??? ??? ???? ???? 15???? ????? ??? ???? ??? ??? ???? ?? ????. ? ??? ??? ??? ????.
????? ?? ??
???? ??? ?? ??? ?? ?? ???? ?????:
??? NLP? ?? ??
- ?? ??? ??? ??
- ???? ???? ??: RLHF? ?? ?? ?? ?
- ???? ????: Knowledge-Aware Fine-Tuning [34] ?
- ??, ???? ????: Classifier-Guided CTG ?
- ?? ?? ?? ??: ?? ?? ?
- Interactive Writing Assistant(Writing Assistant)
- ??? ??: ??? ?? ??
- ??? ?? ? ???: ??? ??, ??? ??
- ??? ??: ??? ???
- ??? ?? ??: ??? ??
- ?? AI
- ?? ? ??: ??
- ?? ? ??: ??( ?: ??? ?? ??)
- ?? ?? ??: ??
- ??(??? ??)
- ???? ??? ??? ?? ???: ??? ??? ?? ???
- ??? ?? ??? ??? ?? ??? ????? ??: ??? ?? ?? ???
- ??? ?? ??? ?? ???? ?? ??? ???? ??? ??: ??? ?? ?? ??
- ?? ??????
- ??, ?? ???(Specialization): ?? ?? ?? ??, ?? ?? ?? ??? ?? ??? ???? ??? ?? ?? ?? ??.
- ??? ? ??: ?? ?? ????? ????? ?? ??? ???? ?? ??? ?? ?? ??? ??? ?????.
- ?? ?? ??
?? ? ??
??? ??? ?? ??? ??? ??? ??? ???? ??? ??, ?? ?? ?? ? ?? ?? ?? ??? ??????.
?? ?? ?? ? ??
- Alignment: ?? ??? ?? ??, ??? ??? ? ???? ??? ??, ??? ??? ? ???? ??? ??, ? ????? ??? ?? ? .
- ??? ??: ?? ??? ?? ??, ?? ??? ??? ???? ?? ???? ??.
- ???: ?? ??? ??? ??, ???? ???? ?? ??? ??? ??? ?? ?? ?? ??? ???? ????? ???? ??.
- ?? ? ???: ?? ??? ?? ?? ? ?? ???, ??? ??? ?? ?? ??? ????? ??, ?? ??? ???? ?? ?????.
- ???? ??: ?? ??? ???? ? ?? ?????. ? ? ???? ??? ? ??? ????? ? ??? ???? ?????.
- ? ??? ??: ?? ??? ? ??? ?? ??. ?? ? ??? ?? ?????? ?? ??? ??? ??? ????? ??? ?????.
- ???: ?? ??? ??? ??. ?? ???? ?? ??? ?? ??? ??? ??? ??? ?? ?? ?? ?? ??? ?? ???, ???? ?? ?? ????? ??? ? ??? ?? ?????.
- ??: ?? ?? ??, ?? ??? ? ?? ??. ?? ??, ?? ?? ??? ???? ?? ??? ?? ? ??? ??? ???? ??, ?? ??? ?? ????? ???? ?? ?? ????.
- ???: ?? ??? ??? ??. ????? ?? ????? ???, ??, ?? ?? ? ? ????, ??? ??? ???? ?? ?
- ??: ?? ?? ??? ? ? ???? ??, ?? ??? ?? ?? ??? ???? ?? ?
"????? ???? ??????"? ?? ?? ??? ??? ? ???? ??? ??? ???. ?, ?? ???? ??? ???? ??? ?????. ?? ??? AI[8]? ????? ????. ?, ?? ???? ??? ?? ???? ?? ????? ?? ?? ??? ??? ?? ?? ???? ???? ??? ?????. ? ?? ??? ????? ?? ?? ?? ?? ????? ??? ??? ????.
"???? ??? ??"? ?? ??? ?? ????, ???? ?? ??? ??? ???? ? ? ??? ?? ????. ? ???? ???? ???? "??/??" ??? ?? ?? ????? ?? ????. ?? ???? ? ??? ???? ?????. ??? ???? ??? ?? ???? ??? ???? ???. ???? ?? InstructGPT?? ???? RLHF[7]???. ?? ?? ??? ?? ??? ???? ??? ??? ??? ???? ???? ?? ??? ??? ?? ? ?? ??? ???? ?? RL ?????? ?? ??? ???? ??? ??????. (?? ??? ??) ).
??? ???? ?? ??? ???? ?? ?? ?? [7]
"??? ???? ??"? ???? ?? ??? ?? ????(?: ??) ?? ?? ??? ??? ?? ? ???? ?? Google? AI Chains[9]???. ?? ?? ?? ??? ????? ?? ?? ??? ?? ???? ???? ??? ???? ?? ?? ??? ?????. ???? UI? ?? ??? ? ???? ? ??? ?? ?? ??? ??? ? ????. .
"?? ?????? ?? ??"? ? ? ?? ??? ??? ??? ??? ? ????. ?? ?? ???? ?? ???? ???? ?? ?????? ?????. ?? ??, RLHF? ????? ??? ???? ??????? ?? ?? ??? ???? ???. ? ?? ?? Oracle ??? ???? ??? ?? ??? ??????? Microsoft Research? ITG[10]???.
?? ???? ?? Percy Liang ?? ??-LM ?? ??? ?? ?? ???? ?? ??? ??-?? ?? ?? ?? ?? [11]? ??????. ?? ?? ??? ? ???? ??? ??? ? ????.
?? ??? ?? ??: ?? ??
MineDojo [16]: ?? ?? ????? ??? ??? ??? ???? ?? ????? ?? ??? ??? ?? ?? ??? ???? ??? ??? ? ????. . "?? ??"? ? ?? ???? ??????. ??? WikiText ?? ??? ??? ??(Corpus Knowledge)???. [15] ?? ??? ??? ?? ??? ???? ??(??? ??)???. ???? ??? ? ?? ?? ?????[14].
"?? ??"? ? ?? ???? ????.
?? ?? ??? ?? ??
?? ?? ??? ?? ???? ?? ??? ?? ??? ??? ?? ??? ?? ?? ???? ???? ?? ?? ??? ??? ???? ????. ??? [17]. ??? ?? ??? ??? ??? ?? ???? ??? ???? ??? ? ????. ?? ?? ??? ??? ???? ???? ??? ? ??? ?? ??? ?? ??? ???? ??? ? ????. ??? ??? ??? ?? ??? ?? ??? ??, ?? ? ?? ?? ??? ???? ? ?? ?? ??? "??" ? ???? ??? ?? ?? ??? ??? ??? ? ????. ?? ??? ???? ?? ?? ??? ???? ?? WeChat API? ???? ?? ?? ?? ???? ? ?? ??? ??? ??? ?? ? ????. ?? "?? ??"??? ???. ??" [ 2].
?? ??? ??? ????? ???? ??? ??? ????. ? ?? ?? ?? ???? ??? ?? ?? ?? ??? ??? ?? ??? ?? ??? ?? ????? ? ? ????. ???? ???? ??? ???? ?? ?? ?? ?? ??? ????? ???? ?????. ??? ??? ?? ??? ??? ??? ?? ??? ???? ?? ??? ?? ??? ??????? ??? ??? ???? ??? ??? ? ????.
??? ??? ??? ??? ? ?? ?? ??? ??? ??? ??? ??? ?? ?????. ?? ?? ?? ?? ??? ??? ??? ????? ??? ????. ? ??? ??? "?? ?? ?, ?? ??? ??? ?? ??? ?? ??? ?????"? ???? ?????.
?? ??? ?? ?? ??? ?? ??? ? ? ?? ??? ??? ????.
??: Thinking? ?? "??? ?? ??"? ?? ??????. ?, ?? ??? ??? ??? ???? ??? ?? ??(?? ?? ??), ??? ? ? ???? ?? Vanilla CoT [17]?? ??+??(?? ?? ??)? ???? ?????.
? ??? ReAct [18]? ?? ??? ?????.
??? ?? ???? ???? ReAct [18], Least-to-Most Prompting [19], Self-Ask [20] ?? ?????. ?? ??, Least-to-Most Prompting [19]? ?? ??? ??? ?? ?? ??? ?? ?? ??? ??? ?? ????? ?? ??? ???? ??? ?????.
??? ?? ???? ????? ReAct [18], HuggingGPT [21], Toolformer [22] ?? ????. ?? ??, Toolformer[22]? ?? ??? ?? ?? ???? ?? ?? ????? ?? ???? ????? ??? ?? ??? ?? ??(?: ?? ??, ?? ??, ?? ??, ??? ?)? ?? ?? ??? ?????.
???? ?? ??? ?????.
??? ?? ??
?? ??? ??? ?? ?? ? ?? ???? ????. ?? ??? ???? ??? ??? ???? ?????? ?? ??? ??, ??, ?? ?? ? ?? ??? ??? ??, ??? ?? ?? ??(?: ??? ??)? ???? ???????. , ?? ?? ?), ?? ??, ???, ?? ?? ?? ?? ?? ?? ??? ??? ???????? ????? ?????. (?: ??? ?? ???? ?? ???? "???"? ???) ?? ???).
??? ?? ??? ??? ????? ????? ?? ??? ? ??? ?? ???? ?? ? ?? ??? ??? ?????.
?? ??: ?? ??? ???? ?? ?? ?? ??? ??? ? ??? ?? ??? ;
Affordance Grounding?? ? ?? ?? ?? ??? ????. ?, ??? ?? ???? (1) ?? ?? ??(?? ?? ??)? ???? ??? (2) ??? ??(??? ??)???. ?:
?? ?? ? ??? ???? "??? ??? ????"? "?? ?? ??"??? ??? ????? ?? ???? ?? ?? ??? ??? ?? ??? ?? ??? ???. ??? ??? ?? ??? ?? ???? "??? ??"? ????? ??? ?? ?? ??? ??? ???? ???. ?? ??, ?? ??? ???? ??? ?? ???. ??? "?? ???" ??? ?????.
????? Affordance Grounding? SayCan[31]? ?? ??? ?? ?? ??? Grounded Decoding[32]? ?? ?? ?? ??? ???? ??? ? ????. ??, ??, ?? ??? ?? ??? ?? ??? ?? ????(?? ??). winner monologue [33]
???: ? ?? ??, ?? ??, ?? ?? ? ???? ??? ?. ???? ???? ?? ? ??? ??? ?? ???.
?? ??: ??, ??, ?? ?? ? ???? ???? ???? ? ??? ??? ?? ???.
?? ??: ??? ????, ??? ??? ?? ? ?????? ??? ??, ??????, ???? ??? ?? ?? ???.
??: ?? ??? ??, ??, ???, ?? ?? ??? ?????. ? ??, ??, ??, ??? ??? ?? ?????.
? ??? NLP? ? ??? ? ? ???? Beihang University, ETH, Hong Kong University of Science and Technology, Chinese Academy of Sciences ? ?? ??? ChatGPT ?? ?? ??? ????? ???? ?? 100??? ??? ??? ???? ??????.? ?? ?????. ??? ??? PHP ??? ????? ?? ?? ??? ?????!

? AI ??

Undress AI Tool
??? ???? ??

Undresser.AI Undress
???? ?? ??? ??? ?? AI ?? ?

AI Clothes Remover
???? ?? ???? ??? AI ?????.

Clothoff.io
AI ? ???

Video Face Swap
??? ??? AI ?? ?? ??? ???? ?? ???? ??? ?? ????!

?? ??

??? ??

???++7.3.1
???? ?? ?? ?? ???

SublimeText3 ??? ??
??? ??, ???? ?? ????.

???? 13.0.1 ???
??? PHP ?? ?? ??

???? CS6
??? ? ?? ??

SublimeText3 Mac ??
? ??? ?? ?? ?????(SublimeText3)

AI? ??? ??? ????? ????. ?? ? ??? ???? ?? ?????(Tao Zhexuan)? '??????(Bulletin of the American Mathematical Society)' ???? ????. '??? ??? ?? ????'?? ??? ???? ?? ????? ??? ??? ??????. ??? ??? ??? Akshay Venkatesh, ?? ??? Zheng Lejun, ????? ??? ??? Ernest Davis ? ??? ?? ???? ??? ??? ???? ???? ????. AI? ??? ???? ?????. ? ?? ? ???? 1? ?? ???????.

Boston Dynamics Atlas? ????? ?? ?? ??? ??????! ?? ??? Atlas? ??? ???? "??? ???" ??????. ?? Boston Dynamics? ??? Atlas? ?? ???? ??????. ??? ????? ?? ????? ??? ?????? ???? ?????? ??? ?? ??? ???. ? ??? ??? ? 10?? ?? ?? 100? ?? ?? ???? ????. ? ???? ??? ??? ??? ???? ?? ??? ????. ??? ????? ??? ???? ??? ?? ??? ??? ????. ????? “??? ???? ?? ???? ???? ???, ???? ???? ?? ??. ??? ?? ????? ????”?? ??? ???. ?? ?? ???? ????? ??? ?? ?? ??? ?? ?? ?????. ??? ?? ? ???? ????

?? ???? ??? ?? ??? ? ?? ???? ? ???? ??? ???? ?? ?? ??? ??? ???. ??? ???? ??? ????. DeepSeek-V2[1], ???? ?? ??? ?? ?? MoE ??? ??? ????. DeepSeek-V2? ???? ??? ???? ????? ??? ?? ???(MoE) ?? ??? ??? ?????. ?? 236B ????? ????, ? ? 21B? ? ??? ????? ? ?????. DeepSeek67B? ???? DeepSeek-V2? ? ??? ??? ???? ??? ?? ??? 42.5% ???? KV ??? 93.3% ??? ?? ?? ???? 5.76?? ????. DeepSeek? ?? ????? ???? ?????.

Google? ???? JAX? ??? ?? ???? ????? Pytorch? TensorFlow? ???? 7? ???? 1?? ??????. ??? JAX ??? ?? ?? TPU??? ???? ????? ?????. ???? ????? ??? Tensorflow?? Pytorch? ? ??? ????. ??? ???? ? ? ??? JAX ???? ???? ???? ??? ????. ?? ?? Keras ?? ?? PyTorch ??? ???? ? ?? ???(TensorFlow, JAX, PyTorch)? TensorFlow? ???? Keras2? ????????. ??, ??? ?? ??? ?????.

???? ?? ????(Optimus)? ?? ??? ?????, ?? ???? ??? ??? ???. ?? ????? ???(???? 4680 ???)? ??? ?? ?????. ??? ?? 20? ??? ??? ??? ??????. ?? "??????"?? ?? ?? ?? : ??? ?????. ???? ????? ???? ? ??? ? ??? ?? ??? ?? ?? ??? ????? ???? ??? ?? ????. ??? Optimus? ???? ?? ?? ?? ??? ??? ?? ???? ???? ?? ?? ?? ????. NVIDIA ??? Jim Fan? Optimus? ?? ?? ?? ??? ????. Optimus? ?? ??? ?? ??? ?? ? ?????. ?? ?????. ?? ???? ?? ???

?? ? MIT? ?? ??? ????? MLP? ?? ?? ??? ??? KAN? ??????. KAN? ???? ??? ???? MLP?? ?????. ??? ?? ?? ?? ????? ? ?? ?? ????? ???? ???? MLP?? ??? ??? ? ????. ?? ?? ??? KAN? ???? ? ?? ????? ? ?? ??? ???? DeepMind? ??? ????? ?????. ????? DeepMind? MLP?? ? 300,000?? ????? ?? ?? KAN?? ? 200?? ????? ????. KAN? MLP? ?? ??? ??? ??? ??? ???, KAN? Kolmogorov-Arnold ?? ??? ???? ???. ?? ??? ?? KAN?

Ollama? Llama2, Mistral, Gemma? ?? ?? ?? ??? ???? ?? ??? ? ?? ?? ???? ?????. ?? ???? Ollama? ???? ???? ????? ??? ???????. Ollama? ??? ???? ?? ?? ? ??? ?? ? ????. ? ????? nomic-embed-text[2] ??? ?????. ?? ???? ? ? ???? ???? OpenAI text-embedding-ada-002 ? text-embedding-3-small?? ??? ??? ??? ??????. o? ????? ??? ? nomic-embed-text ???? ??????.

?? ??? ???? ????? ????? ??? ????, ? ? ??? ??? ?? ?? ???? ???? ? ?????. ???? ???? ?? ???? ??? ???????. ??? ???? ?? ?? ?? ???? ??? ?? ??? ????? ? ???????. ? ??? ???? ?? ?? ?? ?? ??? ?? ????? ???? ?????. ?? ??? ???? ?? ??? ?? ??, ?? ? ?? ??? ???? ?/? ???? ???? ???? ?? mIOU ???? ???? ??? ??? ?????. ??? ??? ??? ?? fisheyeDetNet? ?? ???? ??? ???? ??? ?? ??? ?? Valeo fisheye ??? ??? ???? 49.5% mAP? ?????.
