Text mining

Garant předmětu:

Přednášející:

Cvičící:

Předmět zajišťuje:

katedra kybernetiky

Anotace:

S nástupem elektronických dokumentů nastala situace, kdy jejich počet roste mnohem vyšším tempem, než možnosti, schopnosti a ochota lidí je číst. Metody oboru Information Retrieval sice poskytují přehled o tom, ve kterých dokumentech se hledaná informace zřejmě nachází, ale to jenom znamená, že umožňují vybírat dokumenty podle klíčových slov, kterými indexování dokumentů charakterizuje jejich obsah. Tím jen vytvářejí síto, kterým protéká stále větší a větší počet dokumentů. Metody oboru Text mining mají za cíl nejen dokumenty vybírat podle klíčových slov, ale také určovat, co vypovídají. To je úloha velmi složitá, neboť souvisí se sémantikou přirozeného jazyka, kterou často i školení lidé interpretují nejednoznačně. Text mining zkoumá zejména následující možnosti práce s textem: Information extraction - identifikace klíčových komponent textu a vztahů mezi nimi. Topic tracking - inteligentní filtrování textů na základě profilu uživatele. Summarization - shrnutí obsahu textu. Sentence extraction - identifikace vět, které jsou pro obsah dokumentu klíčové. Kategorizace, klasifikace, clustering - rozdělování textů do tříd podle příbuznosti obsahu. Concept linkage - hledání vztahů mezi texty, které mají společné koncepty. Používají se statistické metody, metody information retrieval, metody počítačové linguistiky a klasifikační metody umělé inteligence.

Výsledek studentské ankety předmětu je zde: http://www.fel.cvut.cz/anketa/aktualni/courses/XP33TTM

Požadavky:

Osnova přednášek:

1. Text mining, Data Mining, Knowledge Discovery

2. Text Processing - základní pojmy

3. Information Retrieval

3.1. Textové dokumenty a klíčová slova

3.2. Relevance a fuzzy logika

3.3. Indexování

3.4. Vektorový model

4. Clustering

4.1. Clustering klíčových slov

4.2. Clustering dokumentů

5. Klasifikace textů

5.1. Probabilistická klasifikace - Naive Bayes

5.2. Klasifikace pomocí metody k-NN

5.3. Klasifikace pomocí rozhodovacích stromů

5.4. Klasifikace pomocí neuronových sítí

5.5. Klasifikace pomocí metody support vector machine

6. Metody linguistiky v text mining

6.1. Lexikon

6.2. Part-of-speech tagging

6.3. Named entity recognition

6.4. Parsing

6.5. Koreferente

7. Aplikace

7.1. Automatická extrakce obsahu dokumentu

7.2. Automatické shrnutí obsahu dokumentu

7.3. Automatické odpovědi na dotazy

Osnova cvičení:

Cíle studia:

Studijní materiály:

Weiss, S.N. et all. Text mining. Springer, 2005

Poznámka:

Další informace:

Pro tento předmět se rozvrh nepřipravuje

Předmět je součástí následujících studijních plánů:

• Doktorské studium, prezenční forma (povinně volitelný předmět)
• Doktorské studium, kombinovaná forma (povinně volitelný předmět)
• Doktorské studium, strukturované prezenční (povinně volitelný předmět)
• Doktorské studium, strukturované kombinované (povinně volitelný předmět)