concept

Lý thuyết thông tin

Ngành toán học do Claude Shannon khai sinh năm 1948, đo lường thông tin một cách chính xác - tách hẳn khỏi ý nghĩa. Thông tin được định nghĩa là sự giải trừ bất định: một thông điệp mang nhiều thông tin khi nó loại bỏ nhiều khả năng. Từ nền tảng này mọc lên đơn vị bit, khái niệm entropy, và định lý dung lượng kênh - bộ khung đặt ra giới hạn cứng cho mọi hệ truyền tin, từ sợi cáp quang đến sợi tua thần kinh của người Na'vi.