350 rub
Journal Achievements of Modern Radioelectronics №9 for 2009 г.
Article in number:
On the Revision of Consequences of Fisher-s Statistics with Regard to Different Areas of Science
Authors:
Ja. D. Shirman, V. M. Orlenko
Abstract:
The fact of discussion between the two most prominent academicians and mathematicians A.N. Kolmogorov and S.N. Bernshtein in 1940-1942 is not widely known. In the discussion A.N. Kolmogorov was defending the «maximum likelihood» approximation in statistics proposed by R. Fisher. In his turn, S.N. Bernshtein objected against this approximation as not fully corresponding to Bayesian theory. Now, even the former proponents of Fisher's theory such as J. Neyman and C. Rao together with their followers have changed their attitude towards the Bayessian methods. The early lack of accumulated material prevented revealing the inadvisability of Fisher's approximation. Direct harm was done to the theory of space-time signal processing, which has been studied since 1950-60s. The harm is illustrated by comparing the difference between Fisher's and Bayes approaches with reference to single-channel CFAR detector and covariance matrix estimate. It is shown that use of maximum likelihood approach in CFAR processing may not provide stabilization of false alarm probability in case of arbitrary interference and may lead to corresponding underestimation of adaptation losses. As applied to covariance matrix estimate, the use of maximum likelihood approach leads to estimates that yield singular covariance matrix when sample size is less than matrix dimension without any regard to the matrix structure. This comes into direct contradiction with the practical experience of jamming cancellation from few jammers using correlation side-lobe cancellers. Discussion of the appropriateness of maximum likelihood approach in signal processingis at the center position in the paper. As a result of paradoxes revealed for signal processing, further question arises as of appropriateness of the maximum likelihood ap-proach use in different branches of science, such as cybernetics, economics, medicine, quantum physics. At the end of the paper, the ways are discussed of how to handle the situation in hand.
Pages: 42-60
References
  1. Ширман Я. Д., Орленко В. М. Байесовская статистика в математике и радиоэлектронике // Успехи современной радиоэлектроники. 2007. № 5. С. 56-66.
  2. Колмогоров А. Н. Определение центра рассеяния и меры точности по ограниченному числу наблюдений // Известия АН СССР. Сер. Математика. 1942. Т. 6.
  3. Бернштейн С. Н. О «доверительных» вероятностях Фишера // Изв. АН СССР. 1941. Сер. Математика Т. 5. С. 48-55.
  4. Математическая энциклопедия. Гл. ред. И. М. Виноградов. Т. 1. М.: Сов. энциклопедия. 1977.
  5. Математический энциклопедический словарь. Гл. ред. Ю.В. Прохоров. М: Сов. энциклопедия. 1988.
  6. Королюк В. С., Портенко Н. И., Скороход А. В., Турбин А. Ф. Справочник по теории вероятностей и математической статистике. М.: Наука. 1985.
  7. Нейман Дж. Два прорыва в теории статистических решений // Математика. 1964. № 8. С. 113-132 (Neyman J. Two Breakthroughs in the Theory of Statistical Decision Making // Review de l'Inst Intern. 1962. de Stat. 30. No. 1.
  8. Handbook of Statistics. Dey, C. R. Rao eds. 2005. V. 25. Elsevier Science Publishers B. V.
  9. Fisher, R. A., On the Mathematical Foundations of Theoretical Statistics. // Phil. Trans. RoyalSoc. A222. 1922.
  10. Бернштейн С. Н. Теория вероятностей. Изд. 4-е. М.: Физматгиз. 1948.
  11. Robbins, H., An Empirical Bayes Approach to Statistics // Proceedings of the Third Berkeley Symposium. Berkeley: University of California Press. V. 1. Р. 157-163.
  12. Stein, C., Inadmissibility of the Usual Estimator for the Mean of Multivariate Normal Distribution // Proceedings of the Third Berkeley Symposium. Berkeley: University of California Press. V. 1. P. 197-206.
  13. Ширман Е. Я., Ширман Я. Д. О точечных байесовских оценках дисперсии измеряемых величин. В кн. Метрология в радиоэлектронике // Тезисы докл. III Всесоюзн. семин.-совещания. НИИ ФТРИ. М.: 1975.
  14. Bartlett, M. S.,Approximateconfidenceintervals // Biometrika. June 1953. V. 40. No. 1-2. P. 12-19.
  15. Ширман Я. Д., Манжос В. Н. Теория и техника получения и обработки радиолокационной информации и защиты от помех. Конспект лекций. Ч. 3. Харьков: ВИРТА. 1978.
  16. Ширман Я. Д. Манжос В. Н. Теория и техника получения и обработки радиолокационной информации на фоне помех. М.: Радиоисвязь. 1981.
  17. Efron, B., Morris, C., Multivariate empirical Bayes and estimation of covariance matrices // Annals of statistics. 1976. V. 4. No. 1. P. 22-32.
  18. Абрамович Ю. И. Регуляризованный метод адаптивной оптимизации фильтров по критерию максимума отношения сигнал/помеха // Радиотехника и электроника. 1981. № 3. С. 543-551.
  19. Handbook of Statistics. N. K. Bose and C.R. Rao eds., 1993. V. 10. Elsevier Science Publishers B.V.
  20. Marcum, I., A statistical theory of target detection by pulsed radar and mathematical appendix // IRE Trans. 1960. V. IT. No. 2.
  21. Седышев С. Ю. ДечкоА. А. Потенциальные характеристики обнаружителя, оптимального по критерию минимума среднего риска // 2-й Международный радиоэлектронный форум «Прикладная радиоэлектроника. Состояние и перспективы развития» МРФ-2005. Сб. научн. трудов. Т. II. Международная конференция «Системы локации и навигации». Харьков: АНПРЭ, ХНУРЭ. 2005. С. 103-105.
  22. Ширман Я. Д. Теория обнаружения полезного сигнала на фоне гауссовских помех и произвольного числа мешающих сигналов // Радиотехника и электроника. 1959.
  23. Ширман Я. Д. Теория статистического разрешения // Радиотехника и электроника. 1961. № 8.
  24. Ширман Я. Д., Красногоров С. И. Метод компенсации амплитуды и фазы сигналов двухканальным в радиоприемных устройствах с подавлением помехи двухканальным корреляционным методом. АС СССР № 296267 с приоритетом от 27.01.1962.
  25. Ширман Я. Д., Красногоров С. И. Метод корреляционной компенсации помех и автоматической ориентации нулей диаграммы направленности. АС СССР № 324956 с приоритетом от 2.03.1963.
  26. Ширман Я. Д., Красногоров С. И., Лебедев Е. П., Костин Г. А. Первые отечественные исследования адаптации антенных систем к мешающим воздействиям. М.: Радиотехника. 1989. № 11.
  27. Ширман Я. Д., Костин Г. А. Устройство для подавления активных помех регулярной (нехаотической) поляризации. А. С. № 27884 от 9.05.1963.
  28. Ширман Я. Д., Красногоров С. И., Лебедев Е. П.Устройство для подавления пассивных помех в когерентных импульсных радиолокационных станциях. А. С. № 27307 от 10.06.1963.
  29. Ширман Я. Д., Манжос В. И. Способ защиты РЛС от широкополосных пассивных помех. А. С. № 28929 от 13.02.1964.
  30. Ширман Я. Д., Костин Г. А. Приемное устройство с автоматической компенсацией помеховых сигналов. А. С. № 92461 от 16.12.1963.
  31. Howells, Р. Intermediate frequency side-lobe canceller. US Patent 3 202 990. 1965. Aug. 24. filed May 4. 1959.
  32. УидроуБ., МантейП., ГриффитсЛ., ГудБ.Адаптивныеантенныерешетки // ТИИЭР. 1967. № 12.
  33. Appelbaum, S. Adaptive arrays // IRE Trans. 1976. V. AP. No. 5. P. 585-598.
  34. Howels, P., Explorations in fixed and adaptive resolution at GE and SURC // IEEE Trans. vol. AP-24. 1976. No 5. September. P. 575-584.
  35. Фединин В. В., Крылов И. Г. Автоматический компенсатор коррелированных помех. А. С. № 963222 с приоритетом от 23.01.1965 г.
  36. Радиоэлектронные системы: Основы построения и теория: Справочник / под ред. Я. Д. Ширмана. М.: Радиотехника. 2007.
  37. Ширман Я. Д. Разрешение и сжатие сигналов. М.: Сов. радио. 1974.
  38. Reed, I. S., Malett, J. D., Brennan, L. E., Rapid Convergence Rate in Adaptive Arrays // IEEE AES Transactions. 1974. V. AES-10. No. 6. P. 853-863.
  39. Goodman, N. R., Statistical Analysis Based on a Certain Multivariate Complex Gaussian Distribution (an Introduction) // Annals of Mathematical Statistics. 1963. V. 34. No. 1. P. 152-177.
  40. Ширман Я. Д., Орленко В. М. Байесовская регуляризация в теории адаптации к аддитивным гауссовским помехам // 2-й Международный радиоэлектронный форум «Прикладная радиоэлектроника. Состояние и перспективы развития» МРФ-2005. Сб. научн. трудов. Том II. Международная конференция «Системы локации и навигации». Харьков: АНПРЭ, ХНУРЭ. 2005. С. 95-98.
  41. Shirman, Y. D., Orlenko, V. M.,BayesianTheoryofthe «Pareto-optimal» CFARDetectors // Proc. ofInternationalRadarSymposium IRS-2006. May 2006. Krakow. Poland.
  42. Orlenko, V. М. and Shirman, Y. D.,Bayesian Regularization in the theory of STAP // Proc. of EuMA. 2007. V. 3. issue 1. March. P. 40-46.
  43. de May, A., Farina, A.,Adaptive Radar Detection: A Bayesian Approach // Proc. of IRS-2006. May 2006. Krakow, Poland. P. 85-88.
  44. Bilingsley, J., Farina, A., Gini, F., Verrazzani, L., Statistical Analysis of Measured Radar Ground Clatter Data // IEEE Trans. AES-35. 1999. No. 2. P. 579-593.
  45. Shnidman, D., Generalized Radar Clutter Model // IEEE Trans. AES-35. 1999. No. 3. P. 857-865.
  46. Conte, E., De Mayo, Galdi, C.,Statistical Analysis of Real Clutter in Different Resolution // IEEE Trans. AES-40. 2004. No. 3. P. 903-918.
  47. Capraro, G., Farina, A., Griffits, H., Wicks, M., Knowledge-Based Radar Signal and Data Processing // IEEE SP Magazine. 2006. No. 1.
  48. Melwin, W., and Gercy, J., Knowledge Aided Signal Processing // IEEE Trans. AES-42. No. 3. 2006. P. 983-996.
  49. Blunt, S., Gerlach, K., and Rangаswami, M., STAP using Knowledge Aided Covariance Estimation and the Fracta Algorithm // IEEE Trans. AES-42. 2006. No. 3. P. 1043-1057.
  50. Srinivasan, R., Rangaswami, M., Importance Sampling for Characterizing STAP Detectors // IEEE Trans. AES-43. 2007. No. 1. P. 273-285.
  51. Шахтарин Б. И., Сидоркина Ю. А. Обнаружители с постоянным уровнем ложной тревоги // Успехи современной радиоэлектроники. 2007. № 5. С. 67-85.
  52. Hansen, V. G., Constant false alarm rate processing in search radar // Proc. of the 1973 Int. radar conference, London. 1973. P. 325-332.
  53. Абрамович Ю. И., Неврев Л. И. Анализ эффективности адаптивной максимизации отношения сигнал/помеха, использующей обращение оценки корреляционной матрицы // Радиотехника и электроника. 1981. № 12. С. 2558-2566.
  54. Черемисин О. П.О выборе параметра для регуляризованного метода адаптивной оптимизации фильтров // Радиотехника и электроника. 1985. № 12. С. 2369-2377.
  55. Steiner, M., Gerlach, K.,Fast-Converging Maximum-likelihood Interference Cancellation // Proc. of IEEE. RADARCON 98. Dallas. May 1998. P. 117-122.
  56. Kelly, E., An adaptive detection algorithm // IEEE Trans. IEEE Trans. AES-22. № 1. March 1986. P. 122-133.
  57. Robey, F., Fuhrmann, D., Kelly, E., Nitzberg, M., A CFAR Adaptive Matched Filter Detection // IEEE Trans. AES-28.  1992. № 1.P. 208-216.
  58. Abramovich, Y. I., Spencer, N. K., and Gorokhov, A. Y., Modified GLRT and AMF framework for adaptive detectors // Trans. IEEE. AES-43. July No. 3. 2007. P. 1017-1051.
  59. Conte E., Lops M., Ricci G. Adaptive matched Filter Detection in Spherically Invariant Noise // IEEE Signal Processing Letters. V. 3. No. 8. August 1996. P. 248-250.
  60. Gini F., Farina A. (part 1, 2) & Montanari M. (part 2) Vector Subspace Detection in Compound Gaussian Clutter // IEEE Trans. AES-38. No. 4. 2002. P. 1295-1305.
  61. Einstein A., Podolsky B., Rosen N. Can Quantum-Mechanical Description of Physical Reality Be Considered Complete - // Physical Review. V. 47. May 1935. P. 777-780.
  62. Хренников А.Ю.Неколмогоровские теория вероятностей и математическая статистика. М.: Физматлит. 2005.
  63. Khrennikov A.Yu.Prequantum Classical Statistical Field Theory - PCSFT // QUANTUM THEORY - Reconsideration of Foundations 4. AIP conference proceedings. Växjö, Sweden. 11-16 June. 2007.
  64. Левин Б.Р.Теоретические основы статистической радиотехники. Изд. 3-е. М.: Радиоисвязь. 1989.