Разлика помеѓу преработките на „Нумеричка анализа“

нема опис на уредувањето
{{внимание}}
{{викификација}}
 
'''Нумеричката анализа''' е област од математиката која изучува [[алгоритми]] кои користат нумерички апроксимации (за разлика од општите симболички манипулации) за задачите и проблемите на математичката анализа (која што се разликува од дискретна математика).
Еден од најраните математички написи е Вавилонската плоча од Вавилонската колекција во Јеил (од 1800г. -1600г. п.н.е.) која дава нумерички апроксимации (приближувања) на <math>\sqrt{2}</math> како должина на дијагоналата во единечен [[квадрат]] во [[броен систем]] со основа 60.
Од исклучително значење е да може да се пресметаат страните на еден [[триаголник]], а со тоа да може да се пресметаат и квадратни корени.
Ова е од големо значење во областа на астрономијата, столаријата и градежништвото. Нумеричката анализа ја продолжува долгогодишната традиција на практичните математички пресметки (калкулации).
<gallery widths="300" heights="300">
Ова може да биде направено со користење на методот на конечни елементи, методот на конечни разлики или (особено во областа на инженерството) со користење на методот на конечни волумени. Ова го редуцира проблемот на решението на една алгебарска равенка.
==== '''Софтвер''' ====
Од крајот на [[ХХ]] век повеќето алгоритми од нумеричка анализа се имплементираат во различни програмски јазици. Netlib-библиотеката содржи различни колекции на софтвер рутини за нумерички проблем, најмногу во FORTRAN и C. Комерцијалните производи имплементираат многу различни нумерички алгоритми вклучувајќи ги и IMSL и NAG библиотеките; бесплатен начин е GNU научната библиотека.
Постојат неколку популарни нумерички компјутерски апликации како што се [[MATLAB]] , TK Solver, S-PLUS, Lab View i IDL како подобар од бесплатните и отворени алтернативни извори како што се Free MAT, Scilab, [[GNU]] Oktave, (слично како [[MATLAB]]), IT ++ ([[C++]] библиотека), [[R]] (слично на S-PLUS) и одредени варијанти на Пајтон([[Python]]). Перформансите значително варираат во голема мера: кога векторските и матричните операции се најчесто брзи, скаларните јамки може да се разликуваат по брзина од повеќе од еден ред на големина.
Многу системи за компјутерска алгебра како Mathematica имаат достапност на аритметика со произволна прецизност која што може да обезбеди повеќе точни резултати. Исто така секој софтверот за табеларни пресметувања (како MS Excel) може да се користи за решавање на едноставни проблеми поврзани со нумеричката анализа.
 
Во нумеричката анализа спаѓаат и методите кои бараат нумеричко апроксимативно решение на диференцијални равенки со зададени почетни услови, т.н. ,,Кошиев проблем,,. Развиени се методи за нумеричко решавање на обични, но и парцијални диференцијални равенки.
Две основни методи се Ојлеровата метода и фамилијата Рунге-Кута методи.
 
== '''Применета математика''' ==
<gallery>
Vehicle Routing Problem Example.svg|Слика1: Движење на автомобил по одредена рута
</gallery>
За ефикасно решение за проблемот на движење на автомобил по одредена рута, потребна е алатка од комбинаторна оптимизација и целобројно програмирање. Применетата математика е гранка од математиката која се занимава со математички методи кои наоѓаат примена во науката, инженерството, бизнисот, информатиката и индустријата. Така применетата математика е комбинација од математичка наука и знаења од специфични области. Терминот ,,применета математика,, исто така опишува професионална специјалност во која математичари работат практични проблеми преку формулирање и проучување со помош на математички модели. Во минатото, практичната примена го мотивирала развојот на математичката теорија, која тогаш станала предмет на проучување на чистата математика, каде се изучуваат апстрактни поими. Активностите во применетата математика се тесно поврзани со истражувањата во чистата математика.
==== '''Историја''' ====
<gallery>
Elmer-pump-heatequation.png|Слика2: Модел на пумпа
</gallery>
Нумеричкото решение на равенки за топлина за модели на пумпа користи метод на конечни елементи.
Методот на конечни елементи е нумеричка техника за наоѓање на приближни решенија на граничните проблеми кај парцијалните диференцијални равенки. Тој е исто така познат како анализа со конечни елементи. Овој метод работи на тој принцип што даден поголем проблем го дели на помали и поедноставни делови коишто се нарекуваат конечни елементи. Потоа едноставните равенки коишто ги моделираат овие конечни елементи се собираат во поголем систем на равенки кои ја моделираат целата задача. Методот на конечни елементи потоа користи методи од варијационо сметање за да се добие приближно решение со минимизирање на некоја конкретна грешка во функцијата.
Историски, применетата математика главно се состои од применета анализа, пред се диференцијални равенки, теорија на апроксимации (широко толкување, вклучувајќи претставување на асимптотски методи, варијациони методи и нумеричка анализа) и применета веројатност. Овие области од математиката директно се врзани за развојот на Њутновата физика, а разликата меѓу математичарите и физичарите не е строго направена пред средината на 19 век. Оваа историја го оставила педагошкото наследство во многу држави: до почетокот на 20 век, предмети како што се класичната механика биле често предавани на катедрата за применета математика на американските универзитети, отколку на катедрите за физика, а механика на флуиди и понатаму се учи на катедрите за применета математика. Квантитативни финансии се учат на катедрите за математика на универзитетите, а математичките финансии се сметаат како целосна гранка од применета математика. Катедрата за инженерство и информатика традиционално користи применета математика.
==== '''Поделба''' ====
<gallery>
HD-Rayleigh-Taylor.gif|Слика3: Пример на графички приказ од механика на флуиди
</gallery>
Механиката на флуиди често се смета за гранка на применетата математика.
Денеска терминот ,,применета математика,, се користи во широка смисла. Тоа вклучува класични области кои се погоре наведени како и други области кои станале се позначајни во примените. Дури и области како што се теорија на броеви кои се дел од чиста математика сега се важни во апликациите како што се криптографија, иако генерално не се сметаат како дел од применетата математика. Понекогаш терминот ,,применета математика,, се користи за разликување на традиционалната применета математика која се развила од физиката и многуте области од математиката кои денес важат за реални животни проблеми.
Не постои консензус за тоа кои се различните гранки на применета математика. Такви категоризации се отежнати заради промени во математиката и науката со тек на времето, а од друга страна универзитетите организираат катедри, курсеви и степени.
Многу математичари прават разлика помеѓу ,,применета математика,, која се занимава со математички методи и ,,применета математика,, во рамки на науката и инженерството.
Биолог кој користи модел на население и применува познати методи од математика не работи применета математика туку ја користи. Меѓутоа математичките биолози ги поставиле проблемите кои го стимулирале развојот на чистата математика. Математичарите, како што се Поенкаре и Арнолд негираат постоење на ,,применета математика,, и тврдат дека постои само ,,примена на математиката,,. Слично на тоа не-математичарите ја мешаат применетата математика и примените на математиката. Употребата и развојот на математиката за решавање на индустриски проблеми се нарекува ,,индустриска математика,,. Успехот на современите нумерички математички методи и софтвер довел до појава на компјутерска математика, компјутерска наука и компјутерско инженерство, кои користат високи компјутерски перформанси за симулација на појави и решавање на проблеми во науката и инженерството. Тие често се сметаат за интердисциплинарни.
==== '''Придобивки ''' ====
Финансиската математика се занимава со моделирање на финансиски пазари. Историски математиката има најважна примена во природните науки и инженерство. Меѓутоа после Втората светска војна, областите надвор од физичките науки предизвикале создавање на нови области во математиката, како што се теорија на игри и теорија на општествен избор, која настанала од економски причини.
Појавата на компјутерите овозможила нови апликации: проучување и користење на новите компјутери и информатика при решавање на проблеми кои се јавуваат во други области на науката (компјутерска наука) како и во компјутерска математика (на пример: теориска математика, компјутерска алгебра, нумеричка анализа). Статистиката веројатно е најраспространета математичка наука која се користи во општествените науки, но и во други области во математиката, посебно во економијата и тоа ги докажува сите нејзини придобивки од употребата во овие дисциплини.
==== '''Статус во академските кругови''' ====
Академските институции не се унифицирани во начинот на кој ги групираат и прават курсевите, програмите и степените во применетата математика. Во некои универзитети постои една математичка катедра, додека други имаат посебна катедра за применета математика и (чиста) математика. Вообичаено е катедрите за статистика да бидат одвоени во факултетите со постдипломски програми, но многу основни институции сметаат дека статистиката треба да биде под катедрата за математика.
Многу програми од применета математика (за разлика од катедрите), се состојат од курсеви на заеднички факултети. Некои програми во областа на применета математика бараат малку или не бараат воопшто курсеви надвор од математика, додека други значајни курсеви бараат примена во одредена област. Од некои аспекти, оваа разлика ја отсликува разликата помеѓу ,,примена на математиката,, и ,,применета математика,,. Некои универзитети во Обединетото кралство имаат катедри за применета математика и теоретска физика, но сега многу поретко имаат одвоени катедри за чиста и применета математика. Значаен исклучок е катедрата за применета математика и теоретска физика на Универзитетот во Кембриџ во Обединетото Кралство. Универзитетите со посебни катедри за применета математика почнувајќи од Универзитетот Браун во САД, кој има голем отсек за применета математика и кој нуди дипломи до ниво на докторат, до Универзитетот Санта Клара во САД, кој нуди само мастер студии во применета математика. Универзитетот Бригам Јанг во САД, исто така нуди применета и компјутерска програма која му овозможува на студентот да дипломира математика, со акцент на применета математика. Студентите со оваа програма имаат уште една можност за учење (информатика, инженерство, физика, чиста математика и.т.н) како би ги дополниле своите вештини за применета математика.
=== '''Научни дисциплини од други области кои граничат со применета математика''' ===
Применетата математика во голем дел се преклопува со статистиката.
Применета математика е тесно поврзана со другите математички науки.
===== '''Компјутерски науки''' =====
Компјутерските науки опфаќаат применета математика (посебно нумеричка анализа), информатика (посебно компјутери со високи перформански) и математичко моделирање во научните дисциплини.
===== '''Информатика''' =====
Информатиката се потпира на логика, алгебра и комбинаторика.
===== '''Операциони истражувања и менаџмент во науките''' =====
Операционите истражувања и менаџментот во науките најчесто се учат на факултетите за технички науки, бизнис и јавна aдминистрација.
===== '''Статистика''' =====
Применетата математика има значајно преклопување со статистиката како дисциплина. Статистичките теоретичари ги проучуваат и подобруваат статистичките процедури со математика, а статистичките истражувања често се занимаваат со прашања од математика. Статистичката теорија се потпира на веројатноста и теоријата на одлучување, а интензивно користи компјутерска наука, анализа и оптимизација; за проектирање на експерименти, статистичарите користат алгебра и комбинаторен дизајн. Математичарите кои работат во областа на применета математика и статистичарите често работат на катедрите за математички науки (посебно на вишите школи и помалите универзитети).
===== '''Актуарска математика ''' =====
Актуарската математика применува веројатност, статистика и економска теорија за проценка на ризикот во осигурувањето, финансиите и другите индустрии и професии.
===== '''Математичка економија''' =====
Математичкта економија е наука која користи математички методи кои од теориски аспект ги анализираат проблемите во економијата. Применетите методи најчесто се однесуваат на нетривијални математички техники или пристапи. Математичката економија се базира на статистика, веројатност, математичко програмирање (како и на други компјутерски методи), операциони истражувања, теорија на игри, и на некои од методите на математичката анализа. Во таа смисла потсетува на (но се разликува) финансиска математика, втор дел на применета математика.
===== '''Други дисциплини''' =====
Линијата помеѓу применетата математика и одделни области на примена често е замаглена. Многу универзитети предаваат математички и статистички курсеви надвор од одговорните катедри, вклучувајќи бизнис, инженерство, физика, хемија, билогија, информатика, компјутерска наука и математичка физика.
===== '''Поврзаност со индустрија''' =====
Кај нас во Македонија со негување на подмладок кој би ја изучувал применетата математика и дугите технички науки, аматерски се занимава Сојузот на здруженија за техничка култура во стопанството ,,Народна техника,,. Учениците од основните и средните училишта имаат можност да учествуваат на натпревари што ги организира ,,Народна техника,, со свои изработки така што ги зголемуваат своите знаења од применета математика и други дисциплини, учат од другите, и другите од нив.
Здружението за индустрија и применетата математика (SIAM) во САД е професионално здружение посветено на промовирање на интеракцијата помеѓу математиката и другите научни и технички заедници. Покрај организирањето и спонзорирањето на бројни конференции SIAM е и главен издавач на списанија и книги кои се користат во применета математика.
 
=== '''Математичка оптимизација''' ===
Во математиката, компјутерските науки и истражувачките активности, математичката оптимизација, (алтернативно позната и како математичко програмирање или едноставно оптимизација) е избор на најдобриот елемент (во однос на некои критериуми) од множество на достапни опции.
Во наједноставен случај, оптимизацијата се состои од максимизирање и минимизирање на реална функција од страна на систематски избрани вредности во рамките на едно дозволено множество од пресметани вредности на фукцијата. Генерално оптимизациската теорија и техника е една голема област од применетата математика. Поопшто, оптимизацијата вклучува изнаоѓање на ,,најдобрата достапна,, вредност на некоја функција на целта, дефинирана во домен (или input), вклучувајќи различни видови на функција на целта и различни видови на домени.
 
==== '''Оптимизациски проблем''' ====
Еден оптимизациски проблем може да се претстави на следниов начин:
Даденa e функција f: A → R од множеството А во множеството реални броеви, се бара елемент x0 од А таков што f(x0) ≤ f(x) за сите x кои припаѓаат на А (минимум) или таков што f(x0) ≥ f(x) за сите x кои и припаѓаат на А ( максимум).
Ваквата формулација е наречена оптимизациски проблем или математичко-програмски проблем (термин кој не е директно поврзан со компјутерското програмирање, но сеуште се користи како на пример во линеарното програмирање).
Многу теоретски и реални проблеми можат да се моделираат во овие рамки. Проблемите кои се формулирани користејќи ја оваа техника, а се од полето на физиката и компјутерите може да се однесуваат на техниките за минимизирање на енергијата, односно вредноста на функцијата f која ја претставува енергијата во системот кој ќе биде моделиран.
Типично, А е некое подмножество на Евклидски простор Rn, често претставен со множество на ограничувања, што елементите на А мора да ги задоволуваат. Доменот на f е наречен простор за пребарување или множество од избори, додека елементите на А се наречени ,,кандидати за решенија,, или допустливи решенија. Функцијата f се именува на повеќе начини, функција на целта, функција на загуба, функција на трошоци (минимизација), алатка функција, функција на добивка (максимизација) или во некои полиња, енергетска функција, функција на енергијата. Допустливото решение што ја минимизира (или максимизира, ако тоа е целта) функцијата на целта е нареченo оптимaлно решение.
Во математиката, конвенционалните проблеми на оптимизација вообичаено се наведени во условите изразени преку термини за минимизација. Поопшто земено, доколку и функцијата на целта и множеството на допустливи решенија не се конвексни во минимизацискиот проблем, можат да постојат неколку локални минимуми. Локалниот минимум x* е дефиниран како точка за која постои некој број δ > 0 така што за сите x за кои што:
|| x-x* || ≤ δ
Неравенството:
f(x* ) ≤ f(x)
важи, односно, за некоја околина околу x* сите вредности на функцијата се поголеми или еднакви на функциската вредност на таа точка. Локалните максимуми се дефинираат на сличен начин.
Додека локалниот минимум е барем исто толку добар колку и околните точки, глобалниот минимум е барем исто толку добар како и секоја допустлива точка. За конвексен проблем, ако постои локален минимум кој е внатрешен (не е на крајот од множестото на допустливи точки) тој е исто така и глобален минимум, но неконвексниот проблем може да има повеќе од еден локален минимум од кои не мора сите да бидат глобални минимуми.
Голем број на алгоритми предложени за решавање на неконвексни проблеми вклучувајќи ги најголемиот број на комерцијално достапни решeнија не можат да направат разлика помеѓу локалното оптимално реашение, па ќе го третираат претходното како вистинско решение за првобитниот проблем. Глобалното оптимизирање е гранка на применетата математика и нумеричката анализа која се занимава со развојот на детерминистичките алгоритми коишто се способни да гарантираат конвергенција во одредено време на вистинското решение на неконвексниот проблем.
 
==== '''Оптимизациските проблеми често се изрази со специјална нотација ''' ====
Вредноста на минимумот и максимумот на функцијата:Да ја земеме во предвид следнава формула:<math>min_{x\in R}(x^2+1)</math>
 
Ова ја означува минималната вредност на функцијата на целта x2 + 1, кога се избира x од множество на реални броеви. Минималната вредност во овој случај е 1, ако x=0.
 
Слично, формулата :<math>min_{x\in R}2x</math>
 
ја бара максимална вредност на функцијата на целта 2x, каде што x може да биде било кој реален број. Во овој случај нема таква максимална вредност затоа што функција на целта е неограничена, така што одговорот е ,,бесконечност,, или ,,недефиниранa вредност,,.
 
==== '''Оптимални влезни (input) аргументи:''' ====
Да ја разгледаме следнава формула:
 
<math>\arg min_{x\in (-\infty , -1]}x^2+1</math>
 
Односно еквивалентно на:
 
<math>{\displaystyle \arg min_{x}x^{2}+1} </math> , т.ш. : <math>x\in (-\infty , -1]</math>
 
Ова ја претставува вредноста (или вредностите) на аргументот x во интервалот <math>(-\infty , -1]</math> што ја минимизира (или ги минимизира) функцијата на целта x^2+1 (вистинската најмала вредност на функцијата не е она што проблемот го бара). Во овој случај одговорот е x= -1, поради тоа што x= 0 е невозможно односно не припаѓа на даденото множество. Слично,
 
<math>{\displaystyle \arg max_{x\in [5 ,-5],y\in R}x\cos (y)} </math>
 
или еквивалентно
 
<math>{\displaystyle {\displaystyle \arg max_{x,y}x\cos(y)}} </math> ; т.ш <math>x\in [5,-5],y\in R</math>
 
го претставува подредениот пар (или паровите) (x,y), кој ја максимизира (или ги максимизира) вредноста на функцијата на целта xcos(y), со зададените ограничувања х да лежи во интервалот [-5,5],
(повторно вистинската максимална вредност на функцијата во формулава не е важна). Во овој случај, решенијата се подредените парови <math>(5, 2k\Pi)</math> и <math>(-5, (2k+1)\Pi)</math> каде што k прима вредност на цел број.
 
==== '''Историја''' ====
Ферма и Лагранж пронашле формула базирана на пресметки за идентификација на оптимумот, додека Њутн и Гаус предложиле итеративни методи за придвижување кон оптимумот.
Терминот линерано програмирање за одредени оптимизациски случаи се должи на Џорџ Б. Данциг, иако голем дел од теоријата била развиена од страна на Леонид Канторович 1939 г. (Програмирањето во овој контекст не се однесува на компјутерско програмирање, туку потекнува од употребата на зборот програмирање од страна на Американската војска што се однесува на предложените тренинзи за логичко распоредување кои Данциг ги проучувал во тоа време). Данциг го објавил Симплекс алгоритмот во 1947, а Џон фон Нојман ја развил теоријата за дуалност истата година.
 
==== '''Поважни гранки''' ====
'''Конвексното програмирање''' ги проучува случаите кога функцијата на целта е конвексна (минимизација) или конкавна (максимизација) и допустливото множество е конвексно. Ова може да се разгледува и како специјален случај на нелинеарно програмирање или како генерализација на линеарното или конвексното квадратно програмирање.
 
'''Линеарното програмирање''' како тип на конвексно програмирање, ги проучува случаите во кои функцијата на целта f е линеарна и ограничувањата се дадени со линеарни равенства и неравенства. Таквото множество е наречено полихедрон или политоп ако е ограничено.
 
'''Конусното програмирање''' од втор ред вклучува одредени типови на квадратно програмирање.
 
'''Семидефинитно програмирање''' е подгранка на конвексната оптимизација каде основните променливи се семидефинитни матрици. Тоа е генерализација на линеарното и конвексното квадратно програмирање.
 
'''Геометриското програмирање''' е техника со која ограничувањата во облик на неравенства изразени како полиноми и ограничувњата ограничувањата во облик на равенства изразени како мономи, да можат да се трансформираат во конвексна програма.
 
'''Целобројното програмирање''' го проучува линеарното програмирање во кое некои или сите променливи се ограничени да примаат целобројни вредности. Ова не е конвексно, и обично е многу потешко отколку вообичаеното линеарно програмирање.
 
'''Квадратното програмирање''' е такво што и дозволува на функцијата на целта има квадратни членови, додека допустливото множество мора да биде одредено со линеарни равенстава и неравенства. За специфични форми на квадратните членови односно, ова е тип на конвексно програмирање.
 
'''Дробно- рационално програмирање''' ја проучува оптимизацијата на количникот (односот) на две нелинеарни функции. Специјалната класа на конкавни дробно-рационални програми може да биде трансформирана во конвексен оптимизациски проблем.
 
'''Нелинеарното програмирање''' ги проучува општите случaи во кои функцијата на целта содржи нелинеарни делови. Ова може, а и не мора да биде конвексна програма. Главно, дали програмата е конвексна или не влијае врз потешкотиите при решавањето на проблемот.
 
'''Стохастичкото програмирање''' ги проучува случаевите во кои некои од ограничувањата или параметрите зависат од случајни променливи.
 
'''Робусното програмирање''' е, како и стохастичкото, обид да се опфатат неодреденостите во податоците кои подлежат на оптимизацискиот проблем. Робусната оптимизација тежнее да најде решенија што се точни за сите можни реaлизации на променливите.
Комбинаторската оптимизација се занимава со проблемите каде што множеството од возможни решенија е дискретно, или може да се сведе на едно дискретно множество од решенија.
Стохастичката оптимизација користи случајна функција на пребарување или случајни влезни податоци во процесот на пребарување.
Бескрајно-димензионалната оптимизација проучува случаеви кога множеството допустливи решенија е подмножество на бескрајно-димензионалниот простор, како што е просторот на функциите.
Хевристиката и метахевристиката не тргнуваат од претпоставките дека проблемот може да биде оптимизиран. Обично, хевристиката не гарантира дека ќе се изнајде некое оптимално решение. Од друга страна, хевристиката се користи за да се најдат приближните решенија на многу комплицирани проблеми.
,,Сатисфакција на ограничувања,, проучува случаи во кои функцијата на целта f е константна (ова се користи во вештачката интелигенција, особено во автоматизираното размислување).
Програмирање со ограничувања е парадигма за програмирање при што односите меѓу променливите се сведуваат во форма на ограничувања.
Динамичното програмирање го проучува случајот во кој оптималната стратегија е заснована на делење на проблемот во помали подгрупи-подпроблеми. Равенките коишто ги објаснуваат врските меѓу овие подпроблеми се викаат Белманови равенки.
Математичкото програмирање со урамнотежени ограничувања е всушност она во кое ограничувањето вклучува неравенства со варијации или комплементарност.
 
==== '''Мулти-модална оптимизација''' ====
Проблемите на оптимизација често се мулти-модални и тоа е затоа што тие поседуваат повеќе добри решенија. Тие сите би можеле да бидат глобално добри (ја имаат истата вредност на функцијата на трошоци) или може да има мешавина на глобално добри и локално добри решенија. Добивањето на сите ( или барем некои) повеќекратни решенија е целта на мултимодалниот оптимизатор.
Класичните оптимизациски техники поради нивниот итеративен пристап не функционираат на задоволителен начин кога тие се користат за да се добијат повеќекратни решенија, бидејќи тој не гарантира дека ќе се добијат различни решенија дури и со различни појдовни точки во повеќе тестирања на алгоритмот.
Еволутивните алгоритми, сепак, се многу популарен пристап за добивање на повеќекратни решенија во мулти-модална задача на оптимизација.
 
=== '''Класификација на критичните точки и екстреми''' ===
==== '''Физибилити проблем''' ====
Физибилити проблемот, или поточно проблемот на допустливост, е проблемот на пронаоѓање на било кое допустливо решение воопшто, без оглед на неговата вредност на функцијата на целта. Ова може да се смета како посебен случај на математичката оптимизација каде што вредноста на функцијата на целта е иста за секое решение, и на тој начин секое решение е оптимално.
Многу оптимизациски алгоритми треба да започнат од допустлива точка. Еден начин да се добие таква точка е да се олабават физибилити условите преку користење на слаба променлива, т.ш било која појдовна точка да е допустлива. Потоа се намалува слабата променлива додека вредноста стане нула или негативна.
 
==== '''Постоење''' ====
Теоремата на екстремна вредност на Карл Вајерштрас наведува дека непрекината реално-вредносна функција на компактно множество ја достигнува својата максимална и минимална вредност.
 
==== '''Потребни услови за оптималност''' ====
Една од теоремите на Ферма наведува дека најголемата вредност на проблеми без ограничување се наоѓа во стационарните точки, каде што првиот извод или градиент на функцијата на целта е нула. Поопшто, тие може да се најдат во критични точки, каде што првиот извод или градиент на функцијата на целта е нула или е недефиниран, или на границата на поставениот домен. Равенката (или множеството на равенки) која наведува дека првиот извод е еднаков на нула во внатрешен оптимум се нарекува ,,состојба од прв ред,, или збир на услови од прв ред.
Оптимум на проблемите ограничени со равенства може да се најде преку Лагранжовиот метод на мултупликатор. Оптимум на проблемите ограничени со равенства или неравенства може да се најде со помош на Каруш-Кун-Такер условите.
 
==== '''Доволни услови за оптималност''' ====
Додека тестот на првиот извод идентификува точки кои би можеле да се екстремни, овој тест не прави разлика помеѓу точка што е минимум од точка што е максимум или точка која не претставува ниту минимум ниту максимум. Кога функцијата на целта е два пати диференцијабилна, овие случаи можат да се разликуваат преку проверка на вториот извод или матрицата на вториот извод ( наречена Хесеова матрица) кај проблеми без ограничувања, или матрицата на вториот извод на функција на целта и ограничувањата наречена ограничена Хесеова матрица кај проблеми со ограничување. Условите кои ги разликуваат максимумот или минимумот од другите стационарни точки се нарекуват ,,услови од втор ред,,. Ако решението кое е кандидат ги исполнува условите од прв ред, тогаш исполнувањето на условите од втор ред е доволно да се утврди барем локалната оптималност.
 
==== '''Чувствителност и континуитет на оптимумот''' ====
Писмо - Теоремата опишува како вредноста на оптимално решение се менува кога основниот параметар ќе се промени. Процесот на пресметување на оваа промена се нарекува компаративна статика.
Теоремата за Максимум на Клод-Берже (1963) ја опишува непрекинатоста на оптималното решение како функција од основните (клучните) параметри.
 
==== '''Пресметување на оптимизација''' ====
За проблеми без ограничување со два пати диференцијабилни функции, може да се најдат некои критични точки со наоѓање на точките каде градиентот на фунцијата на целта е нула (т.е стационарните точки). Поопшто со нула субградиент се потврдува дека е најден локалниот минимум за минимизирање на проблемите за конвексни фукции и други локални функции на Лајбниц.
Понатаму, критичните точки може да се класифицираат со користење на дефинитноста на Хесеовата матрица. Ако Хесеовата матрица е позитивно определена во критичната точка, тогаш точката е локален минимум; ако Хесеовата матрица е негативно определена, тогаш точката е локален максимум; Конечно ако е неопределена, тогаш точката е некој вид на седло (на средна) точка.
Проблемите со ограничување често може да се претворат во проблеми без ограничување со помош множителите на Лагранж. Лагранж релаксацијата може да обезбеди приближни решенија за тешки проблеми со ограничување.
Кога функцијата на целта е конвексна, тогаш секој локален минимум, исто така, ќе биде и глобален минимум. Постојат ефикасни нумерички техники за минимизирање на конвексните функции, како што се методите со внатрешна точка.
 
==== '''Tехники за пресметување на оптимизација''' ====
За решавање на проблеми, истражувачите можат да ги користат алгоритмите кои завршуваат во конечен број на чекори, или итеративни методи кои се конвергираат кон решението (за некоја одредена класа на проблеми), или хевристички кои можат да овозможат приближни решенија за одредени проблеми иако нивните итеративни не мора да се совпаѓаат.
 
==== '''Оптимизациски алгоритми''' ====
* Симплекс алгоритам од Џорџ Данциг, наменет за линеарно програмирање
* Проширување на симплекс алгоритмот, за квадратно програмирање и за линеарно-дробно-рационално програмирање
* Варијанти на симплекс алгоритам кои се особено погодни за оптимизација на мрежа
* Комбинаторни алгоритми
29

уредувања