Metoda Newtona

W metodzie Newtona do wyznaczenia kierunku poszukiwań wykorzystuje się gradient funkcji oraz Hessian – macierz drugich pochodnych. Metoda ta jest bardzo szybko zbieżna dla funkcji kwadratowych. Jej wadą jest rozbieżności dla niektórych funkcji i punktów początkowych oraz konieczność liczenia i odwracania Hessianu (co jest dość pracochłonne), dlatego w praktyce często używa się metod Quasi-Newtonowskich.

Oznaczenia:

x0 – pierwsze przybliżenie rozwiązania (punkt startowy)

xi – i-te przybliżenie rozwiązania

H – macierz drugich pochodnych (Hessian) –

ε – wymagana dokładność

Algorytm:
    1. Ustal , x0, ε > 0

    2. Sprawdź, czy punkt xi spełnia kryterium stopu - jeślito xi jest rozwiązaniem

    3. Wyznacz kolejne przybliżenie rozwiązania , gdzie

      jest kierunkiem poprawy,

      jest macierzą odwrotną do macierzy drugich pochodnych w punkcie xi, natomiast to długość kroku minimalizująca jednowymiarową funkcję

    1. Idź do punktu 2.

Uwaga! Twoja przeglądarka nie widzi appletu!