Výpočet pravděpodobnosti z poměru obsahů opsaných obdélníků

Nejprve se vypočítají minimální a maximální souřadnice základního objektu:

$$min(x_i) \ \forall i \in <1..n>$$ x_min = (4.48)

$$max(x_i) \ \forall i \in <1..n>$$ x_max = (4.49)

$$min(y_i) \ \forall i \in <1..n>$$ y_min = (4.50)

$$max(y_i) \ \forall i \in <1..n>$$ y_max = (4.51)

Z těchto souřadnic se získá plocha obdélníka, který je opsaný základnímu objektu:

S_obd=(x_max-x_min)*(y_max-y_min) (4.52)

Poté se pro každý vrchol základního objektu provede transformace a spočtou se nové minimální a maximální souřadnice pro transformovaný základní objekt:

$$min(x_i') \ \forall i \in <1..n>$$ x_min' = (4.53)

$$max(x_i') \ \forall i \in <1..n>$$ x_max' = (4.54)

$$min(y_i') \ \forall i \in <1..n>$$ y_min' = (4.55)

$$max(y_i') \ \forall i \in <1..n>$$ y_max' = (4.56)

Vypočteme plochu obdélníku, který je opsaný transformovanému objektu:

S_obd'=(x_max'-x_min')*(y_max'-y_min') (4.57)

Výsledná pravděpodobnost dané transformace je dána vztahem:

$$p_i=\frac{S_{obd_i}'}{S_{obd}}$$ (4.58)

Mohlo by se zdát, že by stačilo vypočítat ohraničující obdélník základního objektu a souřadnice vrcholů nového obdélníku získat transformací. Takový postup by nedával správný výsledek, neboť určité transformace by tento obdélník změnily na jiný tvar a vypočtený obsah by byl odlišný. Tato metoda není tak přesná jako metoda předchozí. Její výhodou je jednoduchá implementace a jednoznačnost výsledků.