"!$#&%('*),+.-!/)&0214353415'*% 687:9 !$;'=343514'=% 6@? !$;&15'*)>A/%B%(' CDEGFHFHEIKJKLNMO:PRQTSU/QVCM*W,PRPXQVY[ZH\R]^QBO:S_\a`cbId@\RPRPRQVe f QBO_`:\RZHQTZ,gTQ h M`iM.jcZk`:QTPRPR\RlmQTZ,gTQ 1,2

1

1

1

2

nporqTsTtuNv*smw jxZy`:LH\RSpFNM=F2QBO{zK|KQ~}4kgTWHSpmZ`:L,Q`iM*S_€*}p‚Tƒ „$…:†x‡(ˆ(‰‹ŠkŒZ$WHQBO:\aI {g M=P"UHM=`iM\RZ `:L,Q.S_F2QBgT\XM*P"g{M*S_QŽ|L,QBO:QM=PRPU/\RQTZHS_\RmZ,S=}‘U,QBS_gBO:\RF,`:\RmZM=O:QZ,*` Q{’kWHM*PRPabO:QTPRQT]mM=Zk`}‹=O‘`:LHQF/O:m“,PXQB”kS_mQ[g{M*Zp“2QW,S_QTPRQTS_STzH=`:LHQBO:SKWHS_QB}4WHP8mZ,PRb }4˜ *OG`:LHQgTPRW,S•`:QBO:\RZHl=}FNM=O_`=}–`:LHQ U,M=`iM$zH“,W,`ZH=`‘}‹=OM=PXP@*}r`:L,QT— OiM*U,\a`:\RmZHM*P&QB`:LH$U/S“2QTLNM{]^Q[“NM*U,PabmZp`:LH\RSK`cb/F2Q[*}–F/O:m“HPRQTSM*ZNU|QF,O:*I F2*S_Q[M=Z*O:\Rl*\XZHM*P2M=PRlm*O:\a`:L,™`:[`iM*gi€/PRQ‘\a`{— ˜ L,\RSM=PRlm*O:\a`:L,z^g{M=PXPRQ{Uš› uHtœ$ zm\XS “HM*S_Q{U*Z~M*Z~QTPRQTQTZk`iM=O_˜ bFNMO_`:\a`:\X*ZH\RZHl*ZžmZHQŸU/\XQBZHS_\RmZžM=ZNUžMS•`:kgiLNM=S•`:\Xg W,S_Q*}r`:L,\RS‘mF2QBOiM`:\X*Z@— LHQ M=PRlm*O:\a`:L, U,kQTS‘Z,*`‘O:Q{’kWH\aO:QM*ZkbpMmU¡•WHS•`:QBZ$`*} FH£ M=OiM*Q(`:QBO‘}4O:* `:L,QWHS_Q(OM=ZNUpLNM*SGMŽ]mQBO_bO:Q{M*S_*ZNM*“,PRQŸgBmFHPRQB¢/\a`cbk— ¢/F2QBO:\RQTZk`:STz2gTmZHU,W,gB`:Q{UmZM`_OiMmU/\R`:\R*ZNM*PgTPRW,S•`:QBO:\RZHlpF,O:m“,PRQT¤M=ZNUžmZM=O_I `:\a¥NgB\5M=PrU,M=`iM/z,S_LH{|¦`:LNM`mW,OGQB`:L,$ULHM*Slmk$UF/O:Q{U,\RgB`:\R]^QgTM*FNM=“H\RPR\a`:\XQBSM*ZHU `:LHM=`\a`F,O:]$\XU,QTSM=ZŽWHZHU,QBO:S•`iM=ZNU,M*“HPRQ‘U/QTS_gBO:\RF,`:\R*ZŽ*}H`:LHQKS_*PRW,`:\RmZU/\RS_gT]^QBO:Q{U8— § ¨H©Gª2«8¬ ­.®Ÿ¯±8'Ÿ!$14²³A/´Gµ¶R·N¸{¹_º»{¼¾½N¿ !$3 A%B'´À'*%(%B'*0p+(Ap! ·2½8¸{·mÁ&º»{Âm¼‹¸=ºTö5ºTÄ$»{½&¼¾½H¿ 1 +BAÅ,!$+(±8'*%G08!k+T! 15)H+(A 9 #8; 9 '+ 9 14) +B±8'.²A 6 9 +9 Æ@A 9(9 14;835'.)&!k+B#8%T!$9 3±81 9 Æ8#8%BÆ@A 9 '.A$´G6 ½r9 Äk¹c·2»(Äk¶8¿HÄk¹ÀÊ8º=»{¼¾½H¿ 1 9 !$²p;&15Å,#8A/# 9 !$)&0Å,'=)8'*%B!/3534ÈË´ÀA,%(²ž!$3414Ì='*0y;NÈy+(±8' A/;2Í:'mÎ{+(14Ï/' A$´V02'Ð@)815)&Åѵ¶X·N¸T¹_º=»T¸~A$´ 08!k+T! 9 #&ÎT±Ò+(±@!k+081 9 +B!/)&Î' 9 ;±N# 9 9*6 159*)Ó6 +(±81 9 ÎA,),+B'×N+ 6 Å/34A/;@!$3435ÈH9 á_02'Ð&)&'*0 021 +B!/)&Î' Æ&%('*ÏH14A/# 34È'*Ï/A,ø/'*0 '=Ï,'=)~15´!,0^Í:# +('*0 ;NÈ!/)~'×2Ʊ81 9 !$Æ8Æ8%BA,7 !,ÎT9 ±~1 9 ÎA/²Æ&!/%B!/;834'.Ç 159+(±+(±8'A,)8'Ž# 9 'm09 ;HÈ-[ï@É ò9 14) #8ƱN# 9=6 +(±89 ' ;8#8149 340214)8ÅË9 ;&35A2ÎTøy1 9 !ËÆ&!$%(+(15+(14A/)814)8ÅË!/35Å,A/%B1X+B±8² ´ÀA/%A/)8'~0815²'=) 9 14A/)É Ø ´¾+('*%±@!^ÏH14)8ÅË14)H+(%BA202#&Î'm0Ô)8'mÎ' 9B9 !$%Bȁ02'=Ð&)815+(14A/) 9*6 +B±81 9 ;8#&153‹0214)8Åê;834A2ÎTø1 9 Æ8%(AkÏN1‹02'*0É >±8'ŸÇ!^Èp+B±81 9 '*35'*²'=)H+B!/%(ÈÕÆ&!$%(+(15+(14A/)&15)8Åp1 9 14),+B'=Å,%B!$+('*014)H+(AÕ!Å/34A/;@!$3 9 +(%T!k+B'=Å,ÈÕ!/15²14)8Å !k+1408'=)H+(15´ÀÈN15)8Å ´ÀA/%'m!/ÎT±Î34# +B'=% 1X+ %('*35'*Ïk!$)H+0215²'*) 9 14A/) 9=6 1 9 +(±8'*)Æ&%(' 9 '*),+B'*0–É>±&' Ð&)&!$3Î=35# 9 +B'=%B15)8Ş6 !/35Å,A/%B1X+B±8² ´ÀA/9 3434AkÇ 6 9 É 9




7          

7 )A/% !Õ'*)NÏ/#8'*²%(È '=%B1‹Î=!$3 9 Æ&!,Î' S A/´ p 1 0214²02''=Ð&) )&9 '*15A,0) ;N9*6È~35'=1X+ + EÎAN;±8' Æ8%B'=ÏN15A,# A/)&'á_0215²'*) 14A/)@!$32Æ&!/%i+B1X+B15A,)815)&Ő!/35Å,A/%B1X+B±8²³Î*!$);@'.!$Æ8Æ83414'*0+(A!/)HÈÎ34# á +('=% !/35%B'*!,02ÈÕ´À9 A/%B²Õ'm0!/)&0 6 9 ´ÀA/%'m!/ÎT± A/´+(±&'=² 6 A/)!$)NÈ~0214²'=) 9 15A,)É2>"AÎT±8ANA 9 '.+(±8';±8'Å/%B'*!$+(' 9 +1 9 +B±81 9 3,#@!$)H+(15+:È 6 +B±8'²A 9 +V15)H+('*%(' 9 +B15)&Å1 9 +(±&'0215ÏN1 9 14A/)"É >±8' '*ÎA,)&0Î%B15+('=%B14A/)15)@02#&Î' +BAV%('=´À# 'G!V0214ÏN1 15A,)+(±&!$+K02'mÎ%B'*! ' +(±8' Ê8íkàžíB¿,º=½±&'Ð&% 9 +VÆ8%BA/;&35'*²ö1 9 # 9 '*0+(A 153435# 9 +B%B!$+('+(±&'%(' 9 #&3X+ 9  `:LHQ]mmPRWHQ.WHS_Q{U}4*O C \RS `:LHQl*QTmQB`_O:\RgQ{M=Z=}`:LHQS_\ TQBS.=}`:LHQ\RZk`:QBO:]*M*PRSVU,Q(¥NZH\RZ,l m  ~ Z a \ : `  S i g N L  M i O * M B g : ` B Q : O R \ • S : ` R \ gU/\XQBZHS_\RmZ,S 2`:LHQŸWHS_QŸ*}‘Ml*QTmQB`_O:\Rg.Q{M*Z M*PRPR{|S`:gBmFNMO:Q C ]^mPRW,QTS‘*}–gBPXW,S•`:QBO:SGgTmZk`iM*\RZ,\XZ,l]*M=O:\RmW,SGZ$W,Ž“2QBO:S=}–giLNM=OiM=gB`:QBO:\RS•`:\RgŸU,\RQTZHS_\R*ZHST— 0

0

0

A$´

Ó14)ð!yÎ34# +('*%(14)8Åy+B! ørɑ>±8'Ö!$%(+(15Ð@Î1‹!$3 08!$+B!/;&! 9 ' 9 !$%B'# 9 'm0+BA'=Ïk!$34#&!k+B' êA,)Ïk!$%B14A/# 9 ! 9 9 Æ œ$ O:QTZk`_O:M=m\XFkZ,b8S÷” S•`iM=š“H›
PRQmz gTmZk`_OiM=O_b`: I܍Q{M=ZHS Number of nonrelevent dimensions added

50

0

5

10

15

20

25

30

35

Number of nonrelevent dimensions added

40

45

=  ,u “t>œ/ O:IxQTQTM=M*\XS_Z,W,SñO:Q*” S•`iM=š‘“HPR›Qmz gBmZk`_OiM=O_b`: I܍Q{M=ZHS

50

0

5

10

45

g £ ¢/QTgTW/`:\X*Z `:\RQm” š › uHtœ$ \RS~}¾M=S•`:QBO`:LHM*Z I܍Q{M=ZHS|L,QTZ d > 20

= &%78 ;< ?@ &% 9: 34 56 AB ,+#$ CD "! /,+ 12 )* '-. /0 '( !  "        EF   

15 20 25 30 35 Number of nonrelevent dimensions added

d ∈ [0..50]

ÏÎ ÛÚ ÏÎ ÐÑ ÛÚ ÜÝ æç ¹¸ ·¶ ´µ¹¸ ®¯ ·¶ ÅÄ ÌÍÀÁ ËÊ ÈÉÙØÇÆÂÃÒÅÄ ËÊ ÞÙØÇÆÒÓ Ö×åäâã ÔÕ Þß àá åäâã ³² °¬­ ³² ª« °± »º èé ¼½ »º –— ™˜¨© ›š ¦§ ™˜ ›š ¾¿ œ žŸ  ¡ ¢£ ¤¥

±81 9 !$3 9 A%B' 9 #835+ 9 14)ž;&!/0ÕÆ9 AÇ['m!$9 ø,'=)+(±8'VÎ=A/) 9 +(%T!$14)H+K9 +B±&!k+G+(±8' 6 i±8A/34' 9 9 '=Æ@!$%T!k+(14)8Ŏ9 +(±&' Î34# +B'=% ²# +ŽÆ8%BA$Í:'mÎ{+ŽA/)ê!$+Ž34'*! +ŽA/)8'02' Î%B14Æ2+(14A/)ê0815²'=) 14A/)ðÙÀÇ ±81‹ÎT±Ë²'*!/) +(±&!$+ +(±8'*9 Ȳ9 # 9 +.;#&4, ˜˜m? — >M*Z,l,z > —Rz @KM*ZHl/)z ,—R)z ÕWHZk` mz^DV— DŸ—R”  ˜ Aj
C.”^ES•`iM=`:\RS•`:\Rg{M*P2\RZ,}4*O:M`:\X*Zl*O:\XUM*F,F,O: mM*giL `: S_FHM=`:\XM*P8U,M=`iM\RZH\RZ,l,—2jxBZ ^M=O:€^Q*:z —Rz/JM=˜ O:QBbk4z — /˜ —Xz$h\R`_`_O:\RgiL@z — DV—Rz$d@kgiLH]$S_€kbkz — Ÿ—Xz d&mW,gTmF2*WHPRmSTz f —Xz mQBWHS•}‹QBP5U86z — EV—Xz&Q{U/ST—R” |QTZk`cb$I LH\aOiU~jcZk`:QBO:ZHM=`:= \RmZHM*P"JKmZ/}‹QBO:QBZHgTQ*Z "QBO_bpd@M=O:lmQVh M`i M M=S_QTSTz2E`:LHQBZHSTzHC[O:QTQTgTQ*z Õ*O:lmM*Z VM=W,}4M*ZHZ ˜&% > ˜(,˜&

$—!$LHQT\R€$LH*PRQTS_PXM*\¾z8C.—Rz@JKLNM`_`:QBO¾¡•QBQmz*8—Rz*2LNM=ZHl/z2EŸ—R” >ÖM{]^QBgTPRWHS•`:QBO{”NM|M{]^QTPRQB`_IܓNM=S_
Q{U= gTPRWHS•I `:Q(O:\XZ,lM*F,F,O:^M=g(L}4*OS_FNM=`:\XM=P–UHM`iM\XZÕ]^QBO_bP5MO:lmQ.UHM`iM*“NM=S_QTST—3d&h mmW/O:ZNM=P ?> ($e  ˜Te/— QBO:€$LH\RZ@z f —X” /W,O:]mQBbŸ*}8gTPRWHS•`:Q(O:\XZ,lVUHM`iM\XZ,\RZHl`:QTgiLHZ,\X’$W,QTST— ˜ QTgiLHZH\Rg{M=P,O:QTF2=O_`{zkE‘gTgBO:W,Q $*}5`c|‘MO:Qmz /M*Z mmS_Qmz2JM*PR\a}‹=O:ZH\XM =  > ˜ , — [\RZHZHQB“HW,O:l/z$EŸ—Rz QT\Rzkh.— EV—R”–JKPRWHS•`:Q(OU,\RS_gT]^QBO_bQ(`:LH$U,S"}‹=O‘PXM=O:lmQUHM=`iMV“NM=S_QTSIr}5O:m `:L,Q.FHM*S•``:`:LHQV= }‹W/`:W,O:Qm˜ —jcZ@”&EG#J  $j_C 10hÓjcZk`:QBO:ZHM=`:\RmZHM*PJK*Z,}‹Q(O:QTZHgTQŽmZ M*ZNM=lmQBI QBZ$`*}–h M`iM/— ˜?> W/`:*O:\XM*5P /QTS_S_\RmZ ˜$— mM*\RZ@z=EV—Xz ÕW/O_`cbkz —Rz  Pab/ZHZ&z f —R”khM=`iM‘gTPRWHS•`:QBO:\RZ,l,”*MO:QB]/\RQB| —/EG# J ÷JKmFHW/`:\RZH9l /W/O:]^QBb/S  $ = ˜?>3,$e  ˜,/! — $= [email protected] — J[—Rz8JKLNM=ZHl/.z Ÿ— ˜ —R”  M=S•`S_QTPa}4IÜ*O:lmM*ZH\ T\RZ,l}4Q{M=`:W/O:Q M*FÕM*PRlm=O:\R`:L,—j £"££ I

$"$ ?>3% ˜':%=eme ˜%$—VEGl*OiMT|‘M=P¾z2DŸ—Rz2CQTL,O:€^Q*"z ,—Rz&CW,ZH*FHWHPR*STzNhŽ—RzND[M*l*LNM{]*M*Z@z f —X”E[W/`:mM=`:\Rg S_W,“HS_FNM=gTQVgTPRWHS•I `:Q(O:\XZ,l*}8L,\RlmLU/\XQBZHS_\RmZHM*P,UHM=`iMG}‹*OKUHM`iM\RZH\RZHlM*FHF,PR\XgTM=`:\RmZ,ST—2jcZ&” f O:kgm—^=}2`:LHQEG#J  $j_C 10h jxZk`:QBO:ZNM`:\X*ZNM=P–JKmZ/}‹QBO:QBZHgTQVm1 Z M*ZNM=lmQTQBZ$`G=}h M=`iM$z /QTM=`_`:PRQm.z >M*S_L,\XZ,l*`:*Z = ˜(?> ˜ ˜(/—ŸJKL,QTZHl/z*J[— .—Rz  W@z{EŸ— > — J[—R&z 2LNM=ZHl/z @Ž—R” £ Zk`_O:mFkb$Ix“HM*S_Q{US_W,“HS_FHM*gTQ"gTPRWHS•`:QBO:\RZ,lG}4*O\RZH\RZHl Z$W,QBO:\Rg{M*P&UHM`iM/—jxZ@” ZH{|PRQ{U,l*Q h\RS_gT]^QBO_bM*ZHUÕh M=`i8M Õ\RZH\RZHl/— = ˜ >3(4*e ˜/ —
M*l*QTS_L@z Ÿ—Rz@Cm\RP¾z 8—Rz@JKLH*WNU,LHM=O_˜bkzNEŸ—R” M¥2M/” 6£  gT\RQTZk`M*ZNUžS_g{M=PXM*“HPRQS_W,“HS_FHM*gT= QŸgTPRWHS•I `:Q(O:\XZ,lŽ}‹=OG]^QBO_bpPXM=O:lmQŸU,M=`iMŽS_QB`:ST— QBg(L,ZH\Rg{M*P8O:QTF2=O_`{.z
[*O_`:Lk|QTS•`:Q(O:ZÕYZ,\R]^QBO:S_\a`cb ˜ > /—VEGlmlmM=O_|‘M=P¾zJ[— J[—R5z >*PR}x6z ,— d—Xz @KW&z f — 2—Rz f O:kgTmF,\XW,gmzJ[—Rz f M=O:€2 z ,— 8—R”  M*S•`.M*PRl**O:\a`:LHS }4*O‘F/O:=¡cQTgB`:Q{UpgTPRWHS•`:QBO:\RZ,l,—–jxZ@= ” f O:kgm—,*}&`:LHQEG#J  $j_C 10h¦jcZk`:QBO:ZHM=`:\RmZHM*P@JKmZ/}‹QBO:QTZ,gTQ *1Z M=ZNM*l*QTQTZk`G*}–hM=`iM/— ˜ >3, ˜+:%  ˜m?— >k,z —Rzd&QTQm $— f O:kgT*FH\RWHgmzrJ[— —R6z m*ZHQTST5z —RzÖM=ZHl/)z > —R:z >M*Z,l,4z .—R)z @W@z f — 8—R” δ IÜgTPRWHS•`:QBO{”$gTM*F,`:W/O:\RZHlŸS_WH“HS_FHM*gTQ[gT*O_O:QBP5M`:\RmZ \R£ ZÕM.PXM=O:l*QVUHM=`i=M.S_QB`{—jcZ&” f O:kgm—H*}r`:L,AQ ˜(=`:L@—,j_JKh £ jxZ$`:Q(O:ZNM=`:\R*ZNM*P@JK*Z,}‹Q(O:QTZHgTQV*ZÕh M`iM ZHl*\RZHQTQBO:\RZ,l,—  > ˜%:( ,?— >M*Z,l,:z .—R4z >ÖM=ZHl,:z > —R:z @M=ZHl,-z ,—R:z @KW&z f — 2—R”JKPXW,S•`:QBO:\RZHl“kbFHM=`_`:QBO:ZS_\X\RPXM=O:\a`xbÕ\RZÕPXMO:lmQ U,M=`iMŸS_QB`:ST—"jcZ@”,EG#J  /j•C 10h jcZk`{—HJKmZ/}c—,mZ M*ZNM=lmQTQBZ$`G=}–h M=`iM$— =  >‘e )& $—Vd&\RW@#z G—Xz 7[\XM/z @.—Xz @KW&z f — 8—R”÷JKPRWHS•`:QBO:\RZ,lê`:L/O:mWHl*LU,QTgB\XS_\R*Z`_O:QBQ gBmZHS•`_O:W,gB`:\RmZ&—÷jxZ@” f O:kgm—$=}3: ,/—ŸJM=,z @.—Rz >W&z /—X” f O:¡•QTg(`:\X]mQEGD ˜ }4*OgTPRWHS•`:QBO:\RZHlËU,M=`iMS_QB`:S\RZLH\RlmLU/\RQTZHS_\RmZHM*P S_FHM*gTQBST—jxZ@:”
QBW,OiM**P
Q(`c|=O:€$S ˜$— = & > ˜˜ %$?— @\RF@z — @Ž—RzJKL,QTWHZ,l,z@hŽ— > —R z
[l,5z — —R”ÕEñLH\Rl*LHPab$IxW,S:M*“,PXQF/O:=¡cQTgB`:Q{UgTPRWHS•`:QBO:\RZHl~M=PRlm*I O:\a`:L, }‹*OÕlmQTZ,Q~QB¢/F,O:QTS_S_\RmZÔ= F/O:*¥HPXQBST—ÒjcZ&”‘e=OiUyE[#J  /j•C hh >=O:€$S_LHmFymZÔh M`iM Õ\RZ,\XZ,l\R1 Z K\Rm\RZ/}‹*O:M`:\RgTST— me > ˜+&&( (/—  O:\XQTU,M*Z&z ,— .—Rz ÕQTW,PRM*Z@z /— /—X”HJKPRWHS•`:Q(O:\XZ,l*“/¡cQTgB`:Sr*Z.S_W,“HS_QB`:Sr=}2M`_`_O:\X“,W,`:QTST)— mmW/O:ZNM*P =}8`:LHQD[{b$M=P k`iM=`:\RS•`:\Rg{M**P $kgT\RQB`cb8:” $QBO:\RQTS  = $`iM`:\XS•`:\Rg{M=P ÕQB`:L,$U,mPR*l*b > =  > ˜+4 /— M*S•`:\RQmz ˜ —Rz ˜ \X“,S_LH\aOiM*Z,\¾z,DV—Rz  O:\RQ{U,M=Z@4z /—X” IxQTM*ZHST—&jxZ@” ˜ LHQ £ PRQTQBZ$`:SK*} k`iM=`:\RS•`:\Rg{M*P d& Q{M=O:Z,\RZHlŽI"h M`iM Õ\RZH\RZHl/zNjcZ/}‹QBO:QBZHgTQ M=ZNU f O:Q{U/\RgB`:\RmZ@— /F/O:\RZHlmQ(O =  ˜Ê>#&, ˜+),me e/— \RS_L,QBO{z > — hŽ—R” 0Zžl=O:mWHê F,\RZHl= }‹*OM=¢/\RŽWH L,m*lmQTZ,QT\a`cbk— mmW/O:ZNM*P–=}`:L,QŽEGQBO:\Rg{M*Z k`iM=`:\RS•`:\Rg{M*P9%(4%( e ˜m—  P5M=€^Qmz J[—Xz ÕQBO mz J[—X” Y JKj O:QTF2mS_\a`:*O_b *} M=g(L,= \XZ,Q PRQ{M=O:Z,\RZHl UHM`iM*“HM*S_QTS Lk`_`:F@” |‘|‘| — \RgTST— WHgT\¾— Q{U,W  ∼PRQ{MO:Z d&D[QBF2mS_\a`:*O_bk— Lk`: P ˜(?> ˜