alebo nájdi dovolenku:

Robota.sk Za lepším zamestnaním.



Hľadať zamestnanie pre fulltextom

Token (text)

Token alebo známka v počítačovej vede je kategorizovaný blok textu, obyčajne pozostáva z nedeliteľných znakov, známych ako lexémy. Lexikálny analyzátor najprv číta lexémy a kategorizuje ich podľa funkcie, čím im priraďuje význam. Toto priradenie významu sa nazýva tokenizácia. Tokeny môžu vyzerať rôzne, napríklad to môžu byť slovenské, anglické alebo iné slová alebo rôzne symboly, musia to byť hlavne užitočné súčasti štruktúrovaného textu.

čítajte viac o Token (text)

Encyklopédia: ROBOTA.SK > Prírodné vedy > Informatika >

Algoritmy
Architektúra počítača
Bioinformatika
Dátové formáty
Dátové nosiče
Databázové systémy
Databázy
Formálne jazyky a automaty
Geoinformatika
Hardvér
Hypertext
Informácia
Informačné systémy
Informatici
Informatické organizácie
Informatické výhonky

Interakcia človeka s počítačom
Kódovanie
Komunikácia človek-počítač
Kryptológia
Logistika
Počítačová bezpečnosť
Počítačová grafika
Počítačová lingvistika
Počítačová terminológia
Počítačová veda
Počítačové inžinierstvo
Počítačové jazyky
Počítačové siete
Počítačové technológie

Prenosové rýchlosti
Programovanie
Súborové systémy
Softvér
Spoločné používanie súborov
Teória grafov
Telematika
Turingova cena
Umelá inteligencia
Výpočtová technika
Vyhľadávanie informácií
Zdieľanie súborov


Príbuzné výrazy:


Text je dostupný za podmienok Creative Commons Attribution/Share-Alike License 3.0 Unported; prípadne za ďalších podmienok.
Podrobnejšie informácie nájdete na stránke Podmienky použitia.