自然言語処理(NLP)

トークン、埋め込み、アテンション、RAGなど、言語AIの技術を解説

01自然言語処理Natural Language Processing (NLP) 02トークンToken 03トークナイザーTokenizer 04形態素解析Morphological Analysis 05品詞タグ付けPart-of-Speech Tagging 06固有表現認識(NER)Named Entity Recognition 07構文解析Syntactic Analysis / Parsing 08意味解析Semantic Analysis 09感情分析Sentiment Analysis 10テキスト分類Text Classification 11文書要約Text Summarization 12機械翻訳Machine Translation 13質問応答Question Answering (QA) 14情報抽出Information Extraction 15情報検索Information Retrieval 16単語埋め込み(Word Embedding)Word Embedding 17Word2VecWord2Vec 18GloVeGlobal Vectors for Word Representation 19FastTextFastText 20TF-IDFTerm Frequency-Inverse Document Frequency 21Bag of WordsBag of Words (BoW) 22N-gramN-gram 23言語モデルLanguage Model 24パープレキシティPerplexity 25BLEUBilingual Evaluation Understudy 26ROUGERecall-Oriented Understudy for Gisting Evaluation 27BERTモデルBidirectional Encoder Representations from Transformers 28GPTモデルGenerative Pre-trained Transformer 29Seq2SeqSequence to Sequence 30エンコーダー・デコーダー(NLP)Encoder-Decoder 31Attention機構(NLP)Attention Mechanism 32文脈埋め込みContextual Embedding 33サブワード分割Subword Segmentation 34BPE(Byte Pair Encoding)Byte Pair Encoding 35SentencePieceSentencePiece 36RAG(検索拡張生成)Retrieval-Augmented Generation 37テキストマイニングText Mining 38共起分析Co-occurrence Analysis 39トピックモデルTopic Model 40LDALatent Dirichlet Allocation 41コーパスCorpus 42ストップワードStop Words 43レンマ化Lemmatization 44ステミングStemming 45文ベクトルSentence Vector / Sentence Embedding 46類似度計算Similarity Calculation 47コサイン類似度Cosine Similarity 48知識グラフKnowledge Graph 49オントロジーOntology 50対話システムDialogue System 51BM25Best Matching 25 52Transformer(NLP)Transformer