რას ნიშნავს Token?ტექსტის პატარა ნაწილი, მაგალითად სიტყვა, სიტყვის ნაწილი ან სიმბოლო, რომლითაც ენობრივი მოდელი ტექსტს ამუშავებს.