ANSYS

Na sestavu HPCFS je na voljo ANSYS programska oprema za numerične simulacije po metodi končnih elementov in končnih volumnov. Izvaja se lahko statične, dinamične, stabilnostne, temperaturne in toplotne analize trdnin. Možne so tudi visokofrekvenčne in nizkofrekvenčne elektromagnetne analize. Programska oprema omogoča tudi simulacije visoko nelinearnih prehodnih dinamičnih pojavov, z uporabo eksplicitne časovne integracije. Omogočene so analize posameznih fizikalnih problemov, kakor tudi analize neposredno in sekvenčno povezanih problemov. Poleg tega je možno tudi proučevanje statike in dinamike tako nestisljivih kot tudi stisljivih in zelo stisljivih fluidov, ki imajo lahko tudi prosto gladino. Možno je modeliranje pojavov v območju podzvočnih in nadzvočnih hitrosti, kot tudi v bližini hitrosti zvoka. Modelira se lahko samostojne fluide ali mešanice več fluidov v eni ali več fazah. Možna je tudi simulacija nenjutnovskih tokov. Simulacijska programska oprema omogoča kompleksne analize sestavljenih problemov fluid - trdnina.

Nameščena licenca ANSYS Academic Multiphysics Campus Solution omogoča uporabo v akademske in izobraževalne namene. Uporaba v komercialne namene ni dovoljena: Licensing and terms of use.

Študentje si lahko prosto snamejo študentsko verzijo za osebno uporabo na strani www.ansys.com.

Na sestavu je nameščena celotna paleta ANSYS Academic Multiphysics Campus Solution:

Število prostih licenc lahko preverite z ukazom:

 aalic_free

Ena aa_r licenca lahko uporabi do 16 procesorskih jeder. Vsako naslednje jedro potrebuje eno aa_r_hpc licenco.

Uporabniki na HPCFS si nastavijo okolje Ansys z ukazom:

 module load ansys

Če želimo delati s starejšo verzijo, jo dodamo na koncu:

 module load ansys/13.0

Nato lahko poženejo posamezne module Ansys kot je na primer krovni program Workbench z ukazom:

runwb2

Primer uporabe koncepta ANSYS Simulation Framework v Workbench-u: vsaka simulacija oz. sistem je predstavljen kot objekt, ki v povezavi z drugimi tvori projekt. Simulation Framework nadzoruje trenutno stanje objektov in sledi spremembam v projektu. S tem na pregleden način opozarja na izgubo konsistentnosti v projektu kot posledico spremembe v enem od objektov.

Podrobnejša navodila za uporabo so na voljo v spremni dokumentaciji.

Posamezni paketi so kratko predstavljeni v pod-menijih.

ANSYS Multiphysics

ANSYS Multiphysics je del programskega paketa ANSYS Academic Research. Ponuja celovito rešitev, ki vsebuje možnosti simulacij večfizikalnih problemov, kot tudi izvajane enostavnejših analiz. Izdelek vključuje možnosti simulacije nosilnih konstrukcij, termične simulacije, simuliranje tekočin ter visoko in nizkofrekvenčne elektromagnetne analize. Vsebuje tudi možnost obravnave direktno in tudi sekvenčno povezanih fizikalnih problemov.

Uporabniki ANSYS-ovo klasično grafično okolje zaženejo z ukazom

 ansys172 –g 

Delovno okolje ANSYS Multiphysics na HPCFS

 

ANSYS Structural

ANSYS Structural je del programskega paketa ANSYS Academic Research in je vsebovan tudi v paketu Multiphysics. Namenjen je simulacijam nosilnih konstrukcij in elementov. Ta modul nudi vse možnosti nelinearnih analiz (nelinearni materiali, veliki pomiki, velike deformacije, ...), kot tudi vse linearne zmogljivosti in tako zagotavlja izvajanje visoko kakovostnih in zanesljivih simulacij.

 

ANSYS Worbench

ANSYS Workbench je programski paket za računalniško podprti inženiring (CAE). Vsebuje grafični uporabniški vmesnik, ki povezuje funkcije geometrijskega modelirnika z različnimi ANSYS produkti za simulacije z uporabo metode končnih elementov (FEM) in računalniške dinamike tekočin (CFD). Ta produkt je dobro povezlijiv z drugimi 3D modelirniki.

 

Nekaj primerov izvedenih simulacij

Image-0011Numerični model strešne kritine in njena napetostno - deformacijska stanja. Na sliki je razvidno deformacijsko stanje po izgubi lokalne stabilnosti Na sliki so vidne velike deformacije pločevine. Prikazani model je bil izdelan v okviru sodelovanja FS-LASOK s podjetjem Trimo.

 

 

 

 

 

 

 

 

  

lasok2.png Numerični model zadrževalnega hrama Nuklearne elektrarne Krško je namenjen analizi protipotresne varnosti polarnega žerjava v v njem. Izvedene so statična, dinamična in stabilnostna analiza. Upoštevani so pospeški tal med potresom. Numerična analiza je ena v vrsti analiz, ki jih je FS-LASOK opravil za NEK.

  

 

 

 

 

 

 

 

 

 

 

E:\Jermen\Predstavitev04_02_04\SEQV_M_Pog_zob1.jpg Numerično simuliranje obnašanja kompozitno zgrajenih zobatih jermenov med obratovanjem. Analiza po metodi končnih elementov je vsebovala velike pomike, velike deformacije, simulacijo kontaktov med dvema površinama z velikim relativnem premikom. Prikazani MKE model je bil prvenstveni v svetu. Analizo je FS-LASOK izvedel za firmo GoodYear.

 

 

 

 

 

 

 

 

 

geometrija celote

Numerični model in fotografija hiperbarične komore za zdravljenje do 10 pacientov na enkrat. Trdnostne analize so bile v FS-LASOKU izvedene za Univerzitetni klinični center v Ljubljani. Posebnost komore so pravokotna vrata za vstop pacientov,  ki močno zmanjšuje negativne psihološke učinke me dzdravljenejem.

 

 

 

 

 

 

 

 

Računanje v "batch" načinu 

Model pripravimo v ANSYS/apdl ali ANSYS/Workbench. Podrobna dokumentacija o ANSYSu s primeri za vajo so na voljo v pomoči, ki je dosegljiva z ukazom

	  anshelp172 

Če imamo vhodno datoteko pripravljeno na osebnem računalniku jo prenesemo na HPC s pomočjo sftp protokola.

Ko je datoteka prenešena se z »NX Client« logiramo na HPC, kot je to opisano v navodilih za uporabo.

odpremo terminalsko okno, in z ukazom

	 module load ansys/17.2 
naložimo modul ANSYS.

nato se premaknemo v direktorij, kjer se nahaja vhodna datoteka v našem primeru: work/ANSYS-test:

	 cd work/ANSYS-test 

Reševanje modela končnih elementov v vhodni datoteki bench07.mac na 12 procesorjih poženemo z

	 bsub -n 12 -J "DisAns" 'ansys172 -dis -b -mpi pcmpi -machines "$LSB_MCPU_HOSTS" -i bench07.mac -o output.out' 

Zgornji ukaz zažene računanje na 12 jedrih. Ime procesa je DisAns, za vhodno datoteko uporabi datoteko bench07.mac, log pa izpisuje v datoteko output.out.

Ko je preračun končan nam HPC to sporoči s pošto, ki jo lahko preberemo z ukazom mail

Post-procesiranje lahko izvajamo na HPC ali pa si datoteke z rezultati prenesemo na osebni računalnik in post-procesiranje izvajamo na njem.

Ansoft

Programska orodja Ansoft so namenjena elektromagnetnim analizam. Obstajata dva glavna modula:

  1. Visokofrekvenčni (HF): HFSS je FEM orodje za visokovrekvenčno elektromagnetno analizo. Največkrat se uporablje pri simulacijah tiskanih vezij v pogojih, kjer je pomemna lastnost oblika povezave, kot tudi dielektrične lastnosti substrata (FR4 ali teflon). Pomembo polje simulacij s tem orodjem so tudi microstrip antene, ki se pri frekvencah nad 1GHz izdelujejo z jedkanjem. Za razliko od FDTD metod, kjer se simulacija izvaja v časovnem prostoru, HFSS uporablja končne elemente v frekvenčnem prostoru.
  2. Elektromagnetni: Maxwell za nizke frekvence, kjer je vpliv magnetnega polja prevladujoč. Tu so pomembne simulacije elektromehanskih komponent, ki vsebijejo navitja. Možna je tudi povezava z moduli kot je Mechanical.

LS-DYNA

LS-DYNA je programski paket, ki temelji na metodi končnih elementov in je namenjen simuliranju tranzientnih dinamičnih pojavov. Program je sposoben simulirati kompleksne realne probleme. Optimiran je za uporabo na več-procesorskih in super-računalnikih ter različnih operacijskih sistemih (Unix, Linux, Windows).

LS-DYNA je široko uporaben programski paket v različnih industrijskih panogah, med drugim v:

  • Avtomobilski industriji: za simuliranje trkov in obnašanja vozila in potnikov med trkom, simuliranje preoblikovanja pločevine in napoved napetostno deformacijskih stanj zaradi procesa preoblikovanja,...
  • Letalski industriji: za simuliranje udarcev ptic, zlomov rotorskih lopatic reaktivnih motorjev, odpovedi nosilnih delov,...

 

Primer uporabe

»k« datoteko, ki smo jo predhodno pripravili v predprocesorju prenesemo v svoj delovni direktorij na HPC.

Ko je datoteka prenešena se z »NX Client« logiramo na HPC, kot je to opisano v navodilih za uporabo.

odpremo terminalsko okno, in z ukazom

module load ansys/13.0 

naložimo ansysov modul katerega sestavni del je tudi LS-DYNA.

Nato se premaknemo v direktorij, kjer se nahaja »k« datoteka v našem primeru: work/LSDYNA-test:

cd work/LSDYNA-test 

Z ukazom lspp3 poženemo program za pred- in post- procesiranje lsprepost. Navodila za lsprepost se nahajajo na: http://www.lstc.com/lspp/content/tutorials.shtml.

Z ukazom

 File/Open/LS-DYNA Keyword File 

odpremo »k« datoteko

pregledamo in po potrebi popravimo računski model in ga shranimo ter zapremo program lsprepost.

Naslednji korak je zagon računanja v »batch« načinu. Računanje z ls-dyna solverjem poženemo z ukazom

 bsub -n 12 -J "DistLS-D" -e myerr.txt 'lsdyna130 -dis -machines `echo $LSB_MCPU_HOSTS|tr " " ":"` i=3cars_shell2_150ms.k memory=250000000 >myoutput.out' 

s čimer poženemo računanje modela shranjenega v datoteki 3cars_shell2_150ms.k na 12 jedrih in za to alociramo 250\cdot106 besed (words) spomina ( = 1 GB; 1 beseda = 4 byte). Ostala stikala ukaza in nadzor izvajanja so razložena v uporabniškem priročniku LS-DYNA.

Že med preračunom lahko s programom lsprepost (lspp3) pregledujemo vmesne rezultate. Na koncu rezultate postprocesiramo s programom na HPC ali pa si datoteke z rezultati prenesemo na osebni računalnik, kamor si namestimo brezplačni program lsprepost, ki ga dobimo na: http://www.lstc.com/lspp/ in z njim pregledujemo rezultate.

Programski paket ANSYS Fluent

ANSYS FLUENT  je programska oprema za simulacije dinamike fluidov. FLUENT ima napredno solver tehnologijo katera omogoča hitre in natančne simulacije. FLUENT vsebuje fizikalne modele za širok spekter uporabe kot so:

  • turbulentni tokovi,
  • prenos toplote,
  • kemična mešanja ,
  • in zgorevanja.

Prav tako, uporabniško definirane funkcije (UDF) v FLUENT-u omogočajo izvajanje novih modelov uporabnika in obsežno prilagajanje obstoječih. FLUENT prihaja z Ansys Workbench, ki prav tako vsebuje geometrijo graditelja, mreže graditelja in Ansys CFD-Post za analizo z naprednimi po obdelavo orodji.

Paket sestavljajo trije programi:

  1. Gambit,
  2. Tgrid,
  3. in Fluent.

Gambit

Namenjen je pripravi geometrijskega modela in blok-strukturiranih  heksaedričnih ali enostavnih tetraedričnih mrež. Uporabimo lahko "bottom up" pristop kjer geometrijo opišemo s koraki: točke -> krivulje -> ploskve -> volumni. Drugi pristop je t.i. "top down", kjer geometijski model ustvarimo z boolovimi operacijami med osnovnimi telesi (kvader, valj, krogla, ...). Možen je tudi uvoz geometrije iz tretjih programov (Pro Engineer, Catia, ...) v enem izmed standarnih formatov.

Gambit

Program poženemo v terminalskem oknu z ukazom:

gambit

Dokumentacija:

/usr/local/Fluent.Inc/gambit2.4.6/help/index.htm

 

Tgrid

Program je namenjen generaciji zahtevnih 3D računskih mrež. Osnova je površinska mreža narejena v Gambitu ali geometrija v enem izmed standarnih formatov (STL, IDEAS, PATRAN, ... ). Izbiramo lahko med avtomatskim in ročnim mreženjem.  Na voljo so razni tipi celic: tetraedri, prizme, piramide, heksaedri.

Tgrig

Program poženemo v terminalskem oknu z ukazom:

tgrid

Dokumentacija:

User's Guide: /usr/local/ansys/v130/tgrid/tgrid13.0.10/help/pdf/tgrid-ug.pdf
Tutorial Guide: /usr/local/ansys/v130/tgrid/tgrid13.0.10/help/pdf/tgrid-tg.pdf

 

Fluent

Program je namenjen numerični simulaciji toka tekočine. V enem programu so združeni

  • predprocesor - izbira viskoznega modela, definicija robnih pogojev, izbira solverja, nastavitev parametrov simulacije
  • solver - reševanje enačb
  • postprocesor - analiza rezultatov: hitrostno polje, konture, izoploskve, grafi, animacije, ...

Dokumentacija:

Getting Started Guide: /usr/local/ansys/v130/commonfiles/help/en-us/pdf/flu_gs.pdf
User's Guide: /usr/local/ansys/v130/commonfiles/help/en-us/pdf/flu_ug.pdf
Tutorial Guide: /usr/local/ansys/v130/commonfiles/help/en-us/pdf/flu_tg.pdf
Running FLUENT under LSF: /usr/local/ansys/v130/commonfiles/help/en-us/pdf/flu_lsf.pdf

ANSYS FLUENT poganjamo na dva načina: interaktivno (interactive mode) in v ozadju (batch mode). Prvi način uporabimo za pripravo simulacije, krajših oz. testnih izračunov ter analizo rezultatov. Drugi način uporabimo za poganjanje dolgotrajnih izračunov.

Interactive mode

Po prijavi v nadzorno vozlišče z ukazom v terminalskem oknu

single

od nadzornika računskih virov zahtevamo interaktivno sejo na enem procesorju. Ko nam sistem dodeli prosto vozlišče, poženemo Fluent Launcher  z ukazom:

fluent

Pojavi se okno, kjer izberemo solver (serijski ali paralelni), število paralelnih procesov (jeder), natančnost računanja (enojna ali dvojna). Izračunov ne poganjamo direktno na računskih vozliščih, ampak preko nadzornika računskih virov LSF, zato obkljukamo opcijo Use Job Scheduler.

Fluent Launcher

 

Po potrditvi  se požene glavni fluent proces, kjer nastavimo parametre simulacije in poženemo računanje.

Fluent

 

Rezultat izračuna - tokovnice (pathlines) za ventilator v cevi (Zlatko Rek, LFDT)

Pathlines

 

Batch mode

Po prijavi v nadzorno vozlišče z ukazom v terminalskem oknu

bsub -n 64 -a fluent  fluent 3d -g -t64 -pib -i ukazi.jou -ssh -lsf

pošljemo posel nadzorniku računskih virov, ki ga razporedi po prostih vozliščih.

 

Pri čemer pomeni:

bsub ÷ pošiljanje batch posla LSF-ju
       -n 64 ÷ uporabo 64 jeder
   -a fluent ÷ zagotavlja pravo verzijo programov echkpnt in erestart
   fluent 3d ÷ verzija fluent solverja
          -g ÷ brez grafike
        -t64 ÷ 64 paralelnih procesov
        -pib ÷ uporaba infiniband povezave
-i ukazi.jou ÷ datoteka z ukazi fluentu 
        -ssh ÷ uporaba ssh protokola za prijavo na vozlišča
        -lsf ÷ pove fluentu da se izvaja pod nadzorom LSF-ja

 

Če poganjamo dolgotrajno simulacijo je primerno uporabiti še bsub opcijo

-k "checkpoint_directorij duration"

s katero na vsakih duration minut LSF pošlje checkpoint signal fluentu. S tem se izognemo izgubi podatkov ob nepričakovani ustavitvi ali sesutju sistema, saj lahko izračun nadaljujemo od zadnjega checkpointa.

 

Če želimo preizkusiti delovanje batch simulacije, lahko uporabimo testni primer podatkovne in ukazne datoteke:

/opt/lsf/gui/lsf/7.0/plugin/lsf/test-cases/Fluent.Inc/fluent-test.cas.gz
/opt/lsf/gui/lsf/7.0/plugin/lsf/test-cases/Fluent.Inc/fluent-test.jou

 


 

Primer numerične simulacije separacije dvofaznega toka v mini razdelilniku (Jurij Gregorc, LFDT).

Flow separation

 

Vprašanja in odgovori

Q1: Nisem se sicer poglabljal v ukaz, vendar man page za blaunch pravi: "You cannot run blaunch directly from the command line."
   Sicer pa tudi s tem ukazom naletim na težave:

 
Warning: Permanently added '10.0.2.157' (RSA) to the list of known hosts.
jmenccxf@10.0.2.157's password:
<>
~/>module load ansys
Loading ansys/13.

A1: Stikala za fluent solver:

 FLUENT_SSH=blaunch ...spremenljivko nastavi modul ansys
MPI_REMSH=blaunch  ...spremenljivko nastavi modul ansys
-pib          ...infiniband, privzeto - lahko izpustiš
-mpi=hp|intel ...privzeto hp - lahko izpustiš
-ssh          ...MPI uporablja ssh oz. FLUENT_SSH med vozlišči
-lsf          ...izvajanje checkpointing-a pod nadzorom LSF    

S preloga submitaš v batch načinu z ukazom:

 bsub -n 8 -J flut 'fluent 3ddp -g -t8 -ssh -i input >out.txt 2>&1' 

 Daljše posle lahko sproti shranjuješ z LSF checkpointing-om (na vsako periodo v minutah). Dodaš še bsub
stikala -a, -k in fluentu še -lsf:

 bsub -a fluent -k "chkpdir [perioda]" ... 'fluent 3ddp -lsf ...' 

Ročno lahko checkpointing sprožiš z LSF ukazi:

 bchkpnt               ...shrani izračun in nadaljuj
bchkpnt -k            ...shrani izračun in prekini
brestart     ...nadaljuj izračun iz chkpdir 

Programski paket CFX

ANSYS CFX je visoko zmogljivo programsko orodje za simulacijo toka fluidov. Odlikujejo ga splošnost, robustnost in enostavna uporaba preko modernega in prilagodljivega uporabniškega vmesnika. Na voljo ima vrsto fizikalnih modelov s katerimi lahko simuliramo skoraj vse hidrodinamske probleme:

  • turbulentne tokove
  • tokove v turbinskih strojih
  • večfazne tokove
  • prenos toplote in radiacijo
  • procese zgorevanja
  • interakcijo fluida in trdne snovi (FSI)
  • sprotno prilagajanje računske mreže (remeshing, immersed solids)

Glavne komponente programskega paketa so predprocesor (cfx5pre), solver (cfx5solve) in postprocesor (cfx5post). Vse komponente lahko izvajamo skriptno oz. iz ukazne vrstice ali pa interaktivno z grafičnim vmesnikom. Vse operacije je možno posneti in avtomatizirati. Geometrijo toka in računsko mrežo je potrebno izdelati v drugih programih, na primer v ANSYS DesignModeler in Meshing aplikaciji, ICEM CFD, TGrid ipd. Dostop do CFX programov v grafičnem načinu dobijo uporabniki z modulom ansys in ukazom

 cfx5

Podrobna dokumentacija o CFX s primeri za vajo so na voljo v pomoči (meni Help) oziroma v ANSYS Help CFX razdelku

 anshelp140

 

CFX-Pre

ANSYS CFX predprocesor

Definicijo simulacije skupaj z računsko mrežo shranimo v .def datoteko, npr. AxialIni.def.

 

CFX-Solver

V splošnem CFX solver poženemo v batch načinu iz ukazne vrstice:

 cfx5solver -def AxialIni.def

Če želimo vzporedno reševanje problema na večjedrnih sistemih (en proces na računalniku hostA, trije procesi na hostB) moramo navesti imena računalnikov in MPI knjižnico s katero procesi komunicirajo med seboj:

 cfx5solver -def AxialIni.def -par-dist hostA,hostB*3 -start-method "Platform MPI Distributed Parallel"

Na superračunalniku HPCFS moramo reševanje poslati v čakalno vrsto z ukazom bsub:

 bsub -n 8 -J AxialIni 'cfx5solve -def AxialIni.def -par-dist "$LSB_HOSTS" -start-method "Platform MPI Distributed Parallel"'

LSF na Prelogu bo rezerviral 8 jeder v sestavu  (-n 8) za posel AxialIni in na njih pognal solver. Po končanem reševanju nas bo obvestil po pošti.

$LSB_HOSTS

je okoljska spremenljivka, ki jo bsub nastavi znotraj LSF posla. Vsebuje s presledkom ločen seznam rezerviranih vozlišč in število procesorjev. Npr. "cn01 cn01 cn07 cn07" pomeni dva rezervirana procesorska jedra na vsakem od vozlišč cn01 in cn07. Seznam moramo posredovati solverju ob zagonu.

Potek reševanja lahko spremljamo in v določeni meri spreminjamo v CFX Solver Manager-ju tako, da ga usmerimo v delovni direktorij posla npr. AxialIni_001.dir:

ANSYS CFX solver manager

 

CFX-Post

Solver ob uspešnem zaključku generira .res datoteko z rezultati simulacije. Odpremo jo v cfx5post:

ANSYS CFX postprocesor

Remote Solve Manager (RSM)

Remote Solve Manager je Ansys-ova implementacija čakalnih vrst za računske posle. Je del standardne namestitve in omogoča pošiljanje in razvrščanje Ansys poslov lokalnim in oddaljenim računskim strežnikom. Z njim je mogoče poslati računski posel npr. z lokalne MS Windows delovne postaje na oddaljen strežnik ali računski sestav, kjer teče Ansys na Linux-u. Uporaba RSM-ja za pošiljanje poslov na HPCFS je mogoča znotraj omrežja UL FS z uporabo OpenVPN tunela. RSM pri tem samo posreduje posel LSF čakalni vrsti. RSM podpira naslednje Ansys solverje: Mechanical, Mechanical APDL, CFX, Fluent, Polyflow. Pri tem obstajajo nekatere omejitve, ki so navedene v Ansys Help, Remote Solver Manager, poglavje 7 - Integration with ANSYS Client Applications.

Učinkovitost RSM-ja je omejena na lokalno omrežje, kjer deluje kot edina čakalna vrsta in je prenos datotek hiter. Za velike posle, ki se izvajajo na HPCFS je neprimeren, saj je prenos velikih računskih datotek preko VPN počasen. Njegova uporaba zato ni podprta in se odsvetuje.