Socket/Protocols/INet: Fix address class documentation
[senf.git] / senfscons / SENFSCons.py
1 ## \file
2 # \brief SENFSCons package
3
4 ## \package senfscons.SENFSCons
5 # \brief Build helpers and utilities
6 #
7 # The SENFSCons package contains a number of build helpers and
8 # utilities which are used to simplify commmon tasks.
9 #
10 # The utitlities of this package are grouped into:
11 # <dl><dt>\ref use</dt><dd>help using complex environments and
12 # configure the construction environmen correspondingly</dd>
13 #
14 # <dt>\ref target</dt><dd>simplify building common targest and include
15 # enhanced functionality like unit-testing.</dd></dl>
16 #
17 # Additionally for external use are
18 # <dl><dt>MakeEnvironment()</dt><dd>Build construction
19 # environment</dd>
20 #
21 # <dt>GlobSources()</dt><dd>Utility to find source files</dd></dl>
22 #
23 # All other functions are for internal use only.
24
25 import os.path, glob
26 import SCons.Options, SCons.Environment, SCons.Script.SConscript, SCons.Node.FS
27 import SCons.Defaults, SCons.Action
28
29 ## \defgroup use Predefined Framework Configurators
30 #
31 # The following framework configurators are used in the top level \c
32 # SConstruct file to simplify more complex configurations.
33 #
34 # Each of the framework configurators introduces additional
35 # configuration parameters to \ref sconfig
36
37 ## \defgroup target Target Helpers
38 #
39 # To specify standard targets, the following helpers can be used. They
40 # automatically integrate several modules (like documentation,
41 # unit-testing etc).
42
43 ## \defgroup builder Builders
44 #
45 # The SENFSCons framework includes a series of builders. Each builder
46 # is defined in it's own package.
47
48 # Tools to load in MakeEnvironment
49 SCONS_TOOLS = [
50     "Doxygen",
51     "Dia2Png",
52 ]
53
54 opts = None
55 finalizers = []
56
57 # This is the directory SENFSCons.py resides
58 basedir = os.path.abspath(os.path.split(__file__)[0])
59
60 ## \brief Initialize configuration options
61 # \internal
62 def InitOpts():
63     global opts
64     if opts is not None: return
65     opts = SCons.Options.Options('SConfig')
66     opts.Add('CXX', 'C++ compiler to use', 'g++')
67     opts.Add('EXTRA_DEFINES', 'Additional preprocessor defines', '')
68     opts.Add('EXTRA_LIBS', 'Additional libraries to link against', '')
69     opts.Add(SCons.Options.BoolOption('final','Enable optimization',0))
70
71 # A finalizer is any callable object. All finalizers will be called
72 # in MakeEnvironment. We use them so every finalizer has knowledge of
73 # all frameworks in use (e.g.: the boost runtime depends on the use of
74 # stlport).
75
76 ## \brief Register finalizer
77 # \internal
78 def Finalizer(f):
79     global finalizers
80     finalizers.append(f)
81
82 ## \brief Initialize the use of the <a href="http://www.boost.org/">Boost</a> library
83 #
84 # Configure the use of the <a href="http://www.boost.org">Boost</a>
85 # libraries. Most of these libraries are header-only, some however
86 # depend on a built library. The library selection is somewhat
87 # involved and depends on the threading model and the type of build
88 # (debug or final).
89 #
90 # \par Configuration Parameters:
91 #     <table class="senf">
92 #     <tr><td>\c BOOST_INCLUDES</td><td>Include directory.</td></tr>
93 #     <tr><td>\c BOOST_LIBDIR</td><td>Library directory</td></tr>
94 #     <tr><td>\c BOOST_VARIANT</td><td>Complete variant specification</td></tr>
95 #     <tr><td>\c BOOST_TOOLSET</td><td>Toolset to use</td></tr>
96 #     <tr><td>\c BOOST_RUNTIME</td><td>Runtime to use</td></tr>
97 #     <tr><td>\c BOOST_DEBUG_RUNTIME</td><td>Explicit debug runtime</td></tr>
98 #     </table>
99 #
100 # You can either specify \c BOOST_VARIANT explicitly or specify \c
101 # BOOST_TOOLSET and \c BOOST_RUNTIME. If you give \c BOOST_TOOLSET, \c
102 # BOOST_RUNTIME defaults to empty and \c BOOST_DEBUG_RUNTIME defaults
103 # to \c gd, If \c BOOST_TOOLSET is specified and you have included
104 # STLPort support (UseSTLPort()), then \c p is appended to both
105 # runtimes.
106 #
107 # The Boost configuration can get realtively complex. If the boost
108 # libraries are provided by the distribution, you probably don't need
109 # to specify any parameters. If your configuration is more complex,
110 # refer to the <a
111 # href="http://www.boost.org/tools/build/v1/build_system.htm">Boost.Build</a>
112 # documentation for a definition of the terms used above (toolset,
113 # variant, runtime ...).
114 #
115 # \ingroup use
116 def UseBoost():
117     global opts
118     InitOpts()
119     opts.Add('BOOST_INCLUDES', 'Boost include directory', '')
120     opts.Add('BOOST_VARIANT', 'The boost variant to use', '')
121     opts.Add('BOOST_TOOLSET', 'The boost toolset to use', '')
122     opts.Add('BOOST_RUNTIME', 'The boost runtime to use', '')
123     opts.Add('BOOST_DEBUG_RUNTIME', 'The boost debug runtime to use', '')
124     opts.Add('BOOST_LIBDIR', 'The directory of the boost libraries', '')
125     Finalizer(FinalizeBoost)
126
127 ## \brief Finalize Boost environment
128 # \internal
129 def FinalizeBoost(env):
130     env.Tool('BoostUnitTests', [basedir])
131
132     if env['BOOST_TOOLSET']:
133         runtime = ""
134         if env['final'] : runtime += env.get('BOOST_RUNTIME','')
135         else            : runtime += env.get('BOOST_DEBUG_RUNTIME','gd')
136         if env['STLPORT_LIB'] : runtime += "p"
137         if runtime: runtime = "-" + runtime
138         env['BOOST_VARIANT'] = "-" + env['BOOST_TOOLSET'] + runtime
139
140     env['BOOSTTESTLIB'] = 'libboost_unit_test_framework' + env['BOOST_VARIANT']
141     env['BOOSTREGEXLIB'] = 'libboost_regex' + env['BOOST_VARIANT']
142
143     env.Append(LIBPATH = [ '$BOOST_LIBDIR' ],
144                CPPPATH = [ '$BOOST_INCLUDES' ])
145
146 ## \brief Use STLPort as STL replacement if available
147 #
148 # Use <a href="http://www.stlport.org">STLPort</a> as a replacement
149 # for the system STL. STLPort has the added feature of providing fully
150 # checked containers and iterators. This can greatly simplify
151 # debugging. However, STLPort and Boost interact in a non-trivial way
152 # so the configuration is relatively complex. This command does not
153 # enforce the use of STLPort, it is only used if available.
154 #
155 # \par Configuration Parameters:
156 #     <table class="senf">
157 #     <tr><td>\c STLPORT_INCLUDES</td><td>Include directory.</td></tr>
158 #     <tr><td>\c STLPORT_LIBDIR</td><td>Library directory</td></tr>
159 #     <tr><td>\c STLPORT_LIB</td><td>Name of STLPort library</td></tr>
160 #     <tr><td>\c STLPORT_DEBUGLIB</td><td>Name of STLPort debug library</td></tr>
161 #     </table>
162 #
163 # If \c STLPORT_LIB is specified, \c STLPORT_DEBUGLIB defaults to \c
164 # STLPORT_LIB with \c _stldebug appended. The STLPort library will
165 # only be used, if \c STLPORT_LIB is set in \c SConfig.
166 #
167 # \ingroup use
168 def UseSTLPort():
169     global opts
170     InitOpts()
171     opts.Add('STLPORT_INCLUDES', 'STLport include directory', '')
172     opts.Add('STLPORT_LIB', 'Name of the stlport library or empty to not use stlport', '')
173     opts.Add('STLPORT_DEBUGLIB', 'Name of the stlport debug library','')
174     opts.Add('STLPORT_LIBDIR', 'The directory of the stlport libraries','')
175     Finalizer(FinalizeSTLPort)
176
177 # \}
178
179 ## \brief Finalize STLPort environment
180 # \internal
181 def FinalizeSTLPort(env):
182     if env['STLPORT_LIB']:
183         if not env['STLPORT_DEBUGLIB']:
184             env['STLPORT_DEBUGLIB'] = env['STLPORT_LIB'] + '_stldebug'
185         env.Append(LIBPATH = [ '$STLPORT_LIBDIR' ],
186                    CPPPATH = [ '$STLPORT_INCLUDES' ])
187         if env['final']:
188             env.Append(LIBS = [ '$STLPORT_LIB' ])
189         else:
190             env.Append(LIBS = [ '$STLPORT_DEBUGLIB' ],
191                        CPPDEFINES = [ '_STLP_DEBUG' ])
192
193 ## \brief Build a configured construction environment
194 #
195 # This function is called after all frameworks are specified to build
196 # a tailored construction environment. You can then use this
197 # construction environment just like an ordinary SCons construction
198 # environment (which it is ...)
199 #
200 # This call will set some default compilation parameters depending on
201 # the \c final command line option: specifying <tt>final=1</tt> will
202 # built a release version of the code.
203 def MakeEnvironment():
204     global opts, finalizers
205     InitOpts()
206     env = SCons.Environment.Environment(options=opts)
207     if SCons.Script.SConscript.Arguments.get('final'):
208         env['final'] = 1
209     env.Help(opts.GenerateHelpText(env))
210
211     # We want to pass the SSH_AUTH_SOCK system env-var so we can ssh
212     # into other hosts from within SCons rules. I have used rules like
213     # this e.g. to automatically install stuff on a remote system ...
214     if os.environ.has_key('SSH_AUTH_SOCK'):
215         env.Append( ENV = { 'SSH_AUTH_SOCK': os.environ['SSH_AUTH_SOCK'] } )
216
217     for finalizer in finalizers:
218         finalizer(env)
219
220     for tool in SCONS_TOOLS:
221         env.Tool(tool, [basedir])
222
223     # These are the default compilation parameters. We should probably
224     # make these configurable
225     env.Append(CXXFLAGS = [ '-Wall', '-Woverloaded-virtual', '-Wno-long-long' ],
226                LOCALLIBDIR = [ '#' ],
227                LIBPATH = [ '$LOCALLIBDIR' ])
228
229     if env['final']:
230         env.Append(CXXFLAGS = [ '-O3' ],
231                    CPPDEFINES = [ 'NDEBUG' ])
232     else:
233         env.Append(CXXFLAGS = [ '-O0', '-g', '-fno-inline' ],
234                    LINKFLAGS = [ '-g' ])
235
236     env.Append(CPPDEFINES = [ '$EXTRA_DEFINES' ],
237                LIBS = [ '$EXTRA_LIBS' ])
238
239     return env
240
241 ## \brief Find normal and test C++ sources
242 #
243 # GlobSources() will return a list of all C++ source files (named
244 # "*.cc") as well as a list of all unit-test files (named "*.test.cc")
245 # in the current directory. The sources will be returned as a tuple of
246 # sources, test-sources. The target helpers all accept such a tuple as
247 # their source argument.
248 def GlobSources(exclude=[]):
249     testSources = glob.glob("*.test.cc")
250     sources = [ x for x in glob.glob("*.cc") if x not in testSources and x not in exclude ]
251     return (sources, testSources)
252
253 ## \brief Add generic standard targets for every module
254 #
255 # This target helper should be called in the top-level \c SConstruct file
256 # as well as in every module \c SConscipt file. It adds general
257 # targets. Right now, these are
258 # \li clean up \c .sconsign, \c .sconf_temp and \c config.log on
259 #   <tt>scons -c all</tt>
260 #
261 # \ingroup target
262 def StandardTargets(env):
263     env.Clean(env.Alias('all'), [ '.sconsign', '.sconf_temp', 'config.log' ])
264
265 ## \brief Add generic global targets
266 #
267 # This target helper should be called in the top-level \c SConstruct
268 # file. It adds general global targets. Right now theese are
269 # \li Make <tt>scons all</tt> build all targets.
270 #
271 # \ingroup target
272 def GlobalTargets(env):
273     env.Depends(env.Alias('all'),'#')
274
275 ## \brief Return path of a built library within $LOCALLIBDIR
276 # \internal
277 def LibPath(lib): return '$LOCALLIBDIR/lib%s.a' % lib
278
279 ## \brief Build object files
280 #
281 # This target helper will build object files from the given
282 # sources.
283 #
284 # If \a testSources are given, a unit test will be built using the <a
285 # href="http://www.boost.org/libs/test/doc/index.html">Boost.Test</a>
286 # library. \a LIBS may specify any additional library modules <em>from
287 # the same project</em> on which the test depends. Those libraries
288 # will be linked into the final test executable. The test will
289 # automatically be run if the \c test or \c all_tests targets are
290 # given.
291 #
292 # If \a sources is a 2-tuple as returned by GlobSources(), it will
293 # provide both \a sources and \a testSources.
294 #
295 # \ingroup target
296 def Objects(env, sources, testSources = None, LIBS = [], OBJECTS = []):
297     if type(sources) == type(()):
298         testSources = sources[1]
299         sources = sources[0]
300     if type(sources) is not type([]):
301         sources = [ sources ]
302
303     objects = None
304     if sources:
305         objects = env.Object([
306             source
307             for source in sources
308             if not str(source).endswith('.o') ]) + [
309             source
310             for source in sources
311             if str(source).endswith('.o') ]
312         
313
314     if testSources:
315         test = env.BoostUnitTests(
316             target = 'test',
317             objects = objects,
318             test_sources = testSources,
319             LIBS = LIBS,
320             OBJECTS = OBJECTS,
321             DEPENDS = [ env.File(LibPath(x)) for x in LIBS ])
322         env.Alias('all_tests', test)
323         # Hmm ... here I'd like to use an Alias instead of a file
324         # however the alias does not seem to live in the subdirectory
325         # which breaks 'scons -u test'
326         env.Alias(env.File('test'), test)
327
328     return objects
329
330 ## \brief Build documentation with doxygen
331 #
332 # The doxygen target helper will build software documentation using
333 # the given \a doxyfile (which defaults to \c Doxyfile). The Doxygen
334 # builder used supports automatic dependency generation (dependencies
335 # are automatically generated from the parameters specified in the \a
336 # doxyfile), automatic target emitters (the exact targets created are
337 # found parsing the \a doxyfile) and lots of other features. See the
338 # Doxygen builder documentation
339 #
340 # If \a extra_sources are given, the generated documentation will
341 # depend on them. This can be used to build images or other
342 # supplementary files.
343 #
344 # The doxygen target helper extends the builder with additional
345 # functionality:
346 #
347 # \li Fix tagfiles by removing namespace entries. These entries only
348 #     work for namespaces completely defined in a single module. As
349 #     soon as another module (which references the tagfile) has it's
350 #     own members in that namespace, the crosslinking will break.
351 # \li If \c DOXY_HTML_XSL is defined as a construction environment
352 #     variable, preprocess all generated html files (if html files are
353 #     generated) by the given XSLT stylesheet. Since the HTML
354 #     generated by doxygen is broken, we first filter the code through
355 #     HTML-\c tidy and filter out some error messages.
356 # \li If xml output is generated we create files \c bug.xmli and \c
357 #     todo.xmli which contain all bugs and todo items specified in the
358 #     sources. The format of these files is much more suited to
359 #     postprocessing and is a more database like format as the doxygen
360 #     generated files (which are more presentation oriented). if \c
361 #     DOXY_XREF_TYPES is given, it will specify the cross reference
362 #     types to support (defaults to \c bug and \c todo). See <a
363 #     href="http://www.stack.nl/~dimitri/doxygen/commands.html#cmdxrefitem">\xrefitem</a>
364 #     in the doxygen documentation.
365 #
366 # \ingroup target
367 def Doxygen(env, doxyfile = "Doxyfile", extra_sources = []):
368     # ARGHHH !!! without the [:] we are changing the target list
369     #        ||| WITHIN THE DOXYGEN BUILDER
370     docs = env.Doxygen(doxyfile)[:]
371     xmlnode = None
372     htmlnode = None
373     tagnode = None
374     for doc in docs:
375         if isinstance(doc,SCons.Node.FS.Dir): continue
376         if doc.name == 'xml.stamp' : xmlnode = doc
377         if doc.name == 'html.stamp' : htmlnode = doc
378         if doc.name == 'search.idx' : continue
379         if os.path.splitext(doc.name)[1] == '.stamp' : continue # ignore other file stamps
380         # otherwise it must be the tag file
381         tagnode = doc
382
383     if tagnode:
384         # Postprocess the tag file to remove the (broken) namespace
385         # references
386         env.AddPostAction(
387             docs,
388             SCons.Action.Action("xsltproc --nonet -o %(target)s.temp %(template)s %(target)s && mv %(target)s.temp %(target)s"
389                        % { 'target': tagnode.abspath,
390                            'template': os.path.join(basedir,"tagmunge.xsl") }))
391
392     if htmlnode and env.get('DOXY_HTML_XSL'):
393         xslfile = env.File(env['DOXY_HTML_XSL'])
394         reltopdir = '../' * len(htmlnode.dir.abspath[len(env.Dir('#').abspath)+1:].split('/'))
395         if reltopdir : reltopdir = reltopdir[:-1]
396         else         : reltopdir = '.'
397         env.AddPostAction(
398             docs,
399             SCons.Action.Action(("for html in %s/*.html; do " +
400                         "    echo $$html;" +
401                         "    sed -e 's/id=\"current\"/class=\"current\"/' $${html}" +
402                         "        | tidy -ascii -q --show-warnings no --fix-uri no " +
403                         "        | xsltproc --nonet --html --stringparam topdir %s -o $${html}.new %s - 2>&1" +
404                         "        | grep '^-'" +
405                         "        | grep -v 'ID .* already defined';" +
406                         "    mv $${html}.new $${html}; " +
407                         "done")
408                        % (htmlnode.dir.abspath, reltopdir, xslfile.abspath)))
409         for doc in docs:
410             env.Depends(doc, xslfile)
411
412     if xmlnode:
413         xrefs = []
414         for type in env.get("DOXY_XREF_TYPES",[ "bug", "todo" ]):
415             xref = os.path.join(xmlnode.dir.abspath,type+".xml")
416             xref_pp = env.Command(xref+'i', [ xref, os.path.join(basedir,'xrefxtract.xslt'), xmlnode ],
417                                   [ "test -s $SOURCE && xsltproc -o $TARGET" +
418                                     " --stringparam module $MODULE" +
419                                     " --stringparam type $TYPE" +
420                                     " ${SOURCES[1]} $SOURCE || touch $TARGET" ],
421                                   MODULE = xmlnode.dir.dir.dir.abspath[
422                                                len(env.Dir('#').abspath)+1:],
423                                   TYPE = type)
424             env.SideEffect(xref, xmlnode)
425             env.AddPreAction(docs, "rm -f %s" % (xref,))
426             env.AddPostAction(docs, "test -r %s || touch %s" % (xref,xref))
427             xrefs.extend(xref_pp)
428         docs.extend(xrefs)
429
430     env.Depends(docs, extra_sources)
431     for doc in docs :
432         env.Alias('all_docs', doc)
433         env.Clean('all_docs', doc)
434         env.Clean('all', doc)
435
436     return docs
437
438 ## \brief Build combined doxygen cross-reference
439 #
440 # This command will build a complete cross-reference of \c xrefitems
441 # accross all modules.
442 #
443 # Right now, this command is very project specific. It needs to be
444 # generalized.
445 #
446 # \ingroup target
447 def DoxyXRef(env, docs=None,
448              HTML_HEADER = None, HTML_FOOTER = None,
449              TITLE = "Cross-reference of action points"):
450     if docs is None:
451         docs = env.Alias('all_docs')[0].sources
452     xrefs = [ doc for doc in docs if os.path.splitext(doc.name)[1] == ".xmli" ]
453     xref = env.Command("doc/html/xref.xml", xrefs,
454                        [ "echo '<?xml version=\"1.0\"?>' > $TARGET",
455                          "echo '<xref>' >> $TARGET",
456                          "cat $SOURCES >> $TARGET",
457                          "echo '</xref>' >>$TARGET" ])
458
459     # Lastly we create the html file
460     sources = [ xref, "%s/xrefhtml.xslt" % basedir ]
461     if HTML_HEADER : sources.append(HTML_HEADER)
462     if HTML_FOOTER : sources.append(HTML_FOOTER)
463
464     commands = []
465     if HTML_HEADER:
466         commands.append("sed" +
467                         " -e 's/\\$$title/$TITLE/g'" +
468                         " -e 's/\\$$projectname/Overview/g'" +
469                         " ${SOURCES[2]} > $TARGET")
470     commands.append("xsltproc" +
471                     " --stringparam title '$TITLE'" +
472                     " --stringparam types '$DOXY_XREF_TYPES'" +
473                     " ${SOURCES[1]} $SOURCE >> $TARGET")
474     if HTML_FOOTER:
475         commands.append(
476             "sed -e 's/\\$$title/$TITLE/g' -e 's/\\$$projectname/Overview/g' ${SOURCES[%d]} >> $TARGET"
477             % (HTML_HEADER and 3 or 2))
478
479     if env.get('DOXY_HTML_XSL'):
480         xslfile = env.File(env['DOXY_HTML_XSL'])
481         reltopdir = '../' * len(xref[0].dir.abspath[len(env.Dir('#').abspath)+1:].split('/'))
482         if reltopdir : reltopdir = reltopdir[:-1]
483         else         : reltopdir = '.'
484         commands.append(("xsltproc -o ${TARGET}.tmp" +
485                          " --nonet --html" +
486                          " --stringparam topdir %s" +
487                          " ${SOURCES[-1]} $TARGET 2>/dev/null")
488                         % reltopdir)
489         commands.append("mv ${TARGET}.tmp ${TARGET}")
490         sources.append(xslfile)
491         
492     xref = env.Command("doc/html/xref.html", sources, commands,
493                        TITLE = TITLE)
494
495     env.Alias('all_docs',xref)
496     return xref
497
498
499 ## \brief Build library
500 #
501 # This target helper will build the given library. The library will be
502 # called lib<i>library</i>.a as is customary on UNIX systems. \a
503 # sources, \a testSources and \a LIBS are directly forwarded to the
504 # Objects build helper.
505 #
506 # The library is added to the list of default targets.
507 #
508 #\ingroup target
509 def Lib(env, library, sources, testSources = None, LIBS = [], OBJECTS = []):
510     objects = Objects(env,sources,testSources,LIBS=LIBS,OBJECTS=OBJECTS)
511     lib = None
512     if objects:
513         lib = env.Library(env.File(LibPath(library)),objects)
514         env.Default(lib)
515         env.Append(ALLLIBS = library)
516     return lib
517
518 ## \brief Build Object from multiple sources
519 def Object(env, target, sources, testSources = None, LIBS = [], OBJECTS = []):
520     objects = Objects(env,sources,testSources,LIBS=LIBS,OBJECTS=OBJECTS)
521     ob = None
522     if objects:
523         ob = env.Command(target+".o", objects, "ld -r -o $TARGET $SOURCES")
524         env.Default(ob)
525     return ob
526
527 ## \brief Build executable
528 #
529 # This target helper will build the given binary.  The \a sources, \a
530 # testSources and \a LIBS arguments are forwarded to the Objects
531 # builder. The final program will be linked against all the library
532 # modules specified in \a LIBS (those are libraries which are built as
533 # part of the same proejct). To specify non-module libraries, use the
534 # construction environment parameters or the framework helpers.
535 #
536 # \ingroup target
537 def Binary(env, binary, sources, testSources = None, LIBS = [], OBJECTS = []):
538     objects = Objects(env,sources,testSources,LIBS=LIBS,OBJECTS=OBJECTS)
539     program = None
540     if objects:
541         progEnv = env.Copy()
542         progEnv.Prepend(LIBS = LIBS)
543         program = progEnv.Program(target=binary,source=objects+OBJECTS)
544         env.Default(program)
545         env.Depends(program, [ env.File(LibPath(x)) for x in LIBS ])
546     return program