Analýza vlivu jednoduché přesnosti (float 32bit) na jistý výpočet v optice

Written by Petr Lobaz (+ Petr Vaněček)

Petr Lobaz (+ Petr Vaněček)

University of West Bohemia

Seminar in Czech
February 24, 2015 at 10:15
University of West Bohemia, UN309

Abstrakt:
Při výpočtu digitálních hologramů se velmi často počítají funkce tvaru cos(kx), kde k je velké číslo. Protože x je zatíženo zaokrouhlovací chybou, může bezstarostný výpočet v jednoduché přesnosti vést ke zcela nesmyslnému výsledku; a protože zejména na GPU výpočty v jednoduché přesnosti dominují, nejde o problém zcela umělý. Na tomto konkrétním příkladu si ukážeme, jak chybu analyzovat, jak určit rozsah x, pro který je výpočet bezproblémový, a jak se případně chybě vyhnout volbou jiného výpočetního postupu. Seminář je vhodný pro všechny, kdo používají čísla s plovoucí desetinnou čárkou; kontext optiky je v tomto případě jen výchozím bodem pro čistě matematickou analýzu chyby. Seminář shrne výsledky, které jsme publikovali v článku "Safe range of free space light propagation calculation in single precision" (http://www.opticsinfobase.org/oe/abstract.cfm?uri=oe-23-3-3260).