در آمار ریاضی از Kullback–Leibler واگرایی به عنوان معیاری برای اندازه گیری واگرایی یک توزیع احتمال از یک توزیع احتمال ثانویه، یاد می شود. از جمله کاربردهای این مفهوم شامل توصیف آنتروپی نسبی (Shannon) در سیستم های اطلاعاتی، رندمنس در سریهای زمانی پیوسته و بهره اطلاعاتی در زمانی که به مقایسه با مدلهای آماری استنباطی می پردازیم، می باشد. برخلاف تنوع اطلاعات، این معیار، یک معیار نامتقارن می باشد و در ...
